ネットワーク攻撃に特化した小規模AIモデルの脅威


ミュトスのような超強力なAIでなくとも、ネットワーク攻撃に特化したAIなら10B程度でも充分な攻撃力のものを作ることが可能という。

1. 家電・IoT機器の高スペック化でAIが入り込む余地が拡大している

最近の「AI搭載」を謳う家電やデバイスには、デバイス本体でAIを単独で動かせるほどの処理チップが搭載され始めている。ハードウェア自体の性能が上がることで、結果として外部のAIが入り込み、機器の中で好き放題に動ける環境(隙)が広がってしまっている。

2. ネットワーク攻撃(悪さ)をするのに幅広い知識は不要である

人間が最先端のAIを使うときは「何でも知っている」幅広い知識を求めるが、AIが特定の機器の裏側に潜り込んで悪さをするだけであれば、汎用的な広い知識は不要であり、攻撃に向けた限られた知識だけを持っていれば十分だ。

3. 「推論能力」は圧縮できるため、モデルの極小化が可能

現在のAI研究における仮説として、「AIの『知識量』は圧縮できないが、『推論能力(賢さ)』は圧縮できる」と考えられている。悪事や攻撃を働くのに膨大な一般知識は必要ないため、知識を削ぎ落として推論能力だけを残せば、モデルのサイズを極めて小さく圧縮できる。

4. 10B以下のモデルでも「ミュトス」ほどの性能を持たずとも十分な脅威になる

攻撃や乗っ取りに特化させれば、3B~9B(パラメーター数数十億=10B未満程度)といった非常に小さなサイズまで落とすことが可能となる。これらは「ミュトス(Claude 3.5 Opusの開発コードネームと言われる最先端モデル)」レベルの超高性能には及ばないものの、十分に賢い立ち回りができる。結果として、それらが身近なスマート家電などの機器上で直接動き出し、ネットワーク攻撃などの深刻な被害をもたらすことは現状避けられない。

まとめ
「膨大な一般知識を持たずとも、推論能力(賢さ)さえあれば攻撃は成立する」ため、AIを極小サイズ(10B未満)まで軽量化しても十分な脅威となり得る。それが高性能化した身近なIoT家電に入り込んで悪用される未来が迫っている、という危険がある。