NAGOYA AI Blog

愛知・名古屋の人工知能・AIのニュースとブログ - N2i Blog

AIアシスタント、隠しコマンドで勝手に操作

f:id:n2i-u:20180514102634j:plain

AIアシスタントというと、Apple Siri、Google Assistant、Amazon Alexaなどがありますよね。

スマートスピーカーにも搭載されており、様々な用途で使用されてきています。

このAIアシスタントを勝手に操作できてしまうという研究結果が報告されているのです。

 

iphone-mania.jp

 

この研究をしているのは、米カリフォルニア大学バークレー校、米ジョージタウン大学の学生と研究者。

 

AIアシスタントに人間の耳には聞き取れない隠しコマンドを送り、操作する実験

2016年に公開した実験では、大音量のスピーカーから流れるホワイトノイズやYouTubeの動画にコマンドを潜ませ、実際にスマートフォンを機内モードにしたり、Webサイトを開いたりしています。

 

こんな方法で、隠しコマンドを送っても検知できてしまうなんて驚きでした。

 今月5月に公開された論文ではさらに研究結果が報告されています。

 

コマンドを音楽や音声に直接埋め込む

人の耳には単に音楽が流れている、または人が普通に会話しているようにしか聞こえないにも関わらず、Amazon Echoは隠されたコマンドを聞き取り、勝手にショッピングリストに商品を追加した

 

これだけでも十分怖いですが、購入、鍵を開けるなどの行為もできてしまう可能性があると指摘されているそうです。 

 

当然ながら、企業側もセキュリティ対策を施しています。

各社の対応は以下。

 

Appleは自社のHomePodについて、「ドアを開ける」などのコマンドは使えないよう設計している

ユーザー以外の他人が勝手に音声操作できないよう、iPhoneやiPadはロック解除をしないとSiriが使えない設定

 

Amazonは、詳細は明かせないとしているものの、Echoスマートスピーカーについて独自のセキュリティ規制を設けている

 

Googleも音声コマンドのセキュリティには注意を払っており、両企業ともにユーザー本人の音声だと認識しない限り、特定のコマンドには反応しない

 

音声認識システムは簡単に騙せてしまうというのが現状だそうです。

企業だけでなく、使用している私たちもリテラシーを高めていかなければならないと改めて感じました。

 

------------------------------------------------------------------------

N2iでは、企業向け人工知能の受託開発や

人工知能を使ったビックデータ解析を行っています。

【ご相談・お問い合わせこちら

------------------------------------------------------------------------