研究者が悪意のある攻撃の可能性のあるサブリミナル スマート デバイス コマンドを実証

米国と中国の研究者らは、「隠された」コマンド、つまり人間の耳には感知できないコマンドがSiriなどのAIアシスタントに到達し、所有者が意図しない動作を強制できることを実証するためにテストを行っている。この研究は本日、 ニューヨーク・タイムズ紙 の記事で取り上げられ、これらの潜在意識コマンドが悪者の手に渡れば、電話番号にダイヤルしたり、Web サイトを開いたり、さらに潜在的に悪意のある行為を行う可能性があることを示唆しています。

カリフォルニア大学バークレー校とジョージタウン大学の学生グループは今月、音楽録音や音声テキストにコマンドを埋め込むことができるとする研究論文を発表した。 Amazon Echo や Apple iPhone の近くで再生すると、人はその曲や誰かの話し声を聞くだけですが、Siri と Alexa は「買い物リストに何かを追加するという指示を聞くことになるかもしれません」。あるいは、さらに危険なのは、ドアのロックを解除し、銀行から送金し、オンラインで商品を購入することです。

学生たちが隠しコマンドを実行できた方法は一般の人々にとって懸念事項ではないはずだが、論文の著者の一人であるニコラス・カルリーニ氏は、悪意のある当事者がすでに同様の技術を使って侵入している可能性があると考えている。

「私たちはそれをさらにステルス化できるかどうかを確認したかったのです」と、博士課程5年生のニコラス・カルリーニ氏は語った。カリフォルニア大学バークレー校でコンピュータ セキュリティを学ぶ学生であり、論文の著者の 1 人です。

カルリーニ氏は、これらの技術が研究室から流出したという証拠はないが、誰かがそれらを悪用し始めるのは時間の問題かもしれないと付け加えた。 「私が想定しているのは、悪意のある人々がすでに私と同じことをするために人を雇っているということです」と彼は言った。

昨年、中国のプリンストン大学と浙江大学を拠点とする研究者らは同様のテストを実施し、AIアシスタントが人間には聞こえない周波数で起動できることを実証した。 「Dolphin Attack」と呼ばれる技術では、研究者らは特定の電話番号にダイヤルする隠しコマンドを送信する送信機を構築し、他のテストでは写真を撮ったりテキストメッセージを送信したりした。ただし、Dolphin Attack は「受信デバイスの近くになければならない」ため、範囲が制限されると言われています。

Dolphin Attack は、7 つの最先端の音声認識システム (Siri、Alexa など) に秘密の音声コマンドを挿入して、常時接続システムを起動し、Siri を起動して iPhone で FaceTime 通話を開始したり、Google を起動したりするなどのさまざまな攻撃を実行する可能性があります。次に、携帯電話を機内モードに切り替え、アウディ車のナビゲーション システムを操作することもできます。

さらに別の一連の研究では、イリノイ大学アーバナ・シャンペーン校のグループが、8メートル離れた場所から受信したコマンドを披露することで、この範囲制限を拡大できることを証明した。カルリーニ氏は、バークレーの最近の研究者グループに対し、自分のチームが 近い うちに「市場のあらゆるスマートデバイスシステムに対して」コマンドを成功させることができるようになるだろうと「自信を持っている」とニューヨークタイムズに語った。同氏は、同団体はこの欠陥が潜在的な問題であることを企業に証明したいと考えており、「そして他の人々が『よし、これは可能だ。さあ、修正してみよう』と言ってくれることを期待している」と述べた。

セキュリティ上の理由から、Apple は特定の HomeKit 関連の Siri コマンドに対して厳格であり、ユーザーがパスコードを有効にしている場合は常にデバイスのパスコードでそれらのコマンドをロックします。たとえば、接続されたスマート ロックで玄関のドアのロックを解除したい場合、Siri にそうするように依頼できますが、コマンドを発行した後、iPhone または iPad でパスコードを入力する必要があります。一方、HomePod にはこの機能が意図的に欠けています。