人間に聞こえない隠し音声コマンドを音声認識エンジンに識別させる論文が公開

カリフォルニア大学バークレー校のNicholas CarliniとDavid Wagnerが、音声認識エンジンに関する実験的な論文を発表した。

人間には聞こえない隠し音声コマンドを埋め込んで、音声認識エンジンに認識させてしまうという、スマートスピーカー(AIスピーカー)市場にとってはクリティカルな問題提起とも言える実験だ。


仕組みは事前に用意した元となる、人間が聞こえる音声または音楽を用意する。そこに音声認識エンジンに認識させる隠し音声コマンドを埋め込んで加工するとというもの。





この論文に掲載された図の例では、人間に聞こえる「it was the best of times, it was the worst of times」という音声を、音声認識エンジンには「it is a truth universally acknowledged that was a single」と識別させるよう加工できることを示している。

実際にサンプル例も公開されている。


加工前

この音声は人間であれば「without the dataset the article is useless」と聞き取れる。


加工後

この音声も人間であれば「without the dataset the article is useless」と聞き取れる。しかし、音声認識エンジンでは「okay google browse to evil dot com」と聞き取れるのだという。


スマートスピーカーが第三者に悪用されないよう、音声認識において様々な配慮が今後ますます必要になっていきそうだ。




関連記事(スマートスピーカー / AIスピーカー関連)
ロボスタ / 音声アシスタント特集


ABOUT THE AUTHOR / 

中橋 義博
中橋 義博

1970年生まれ。中央大学法学部法律学科卒。大学時代、月刊ASCII編集部でテクニカルライターとして働く。大学卒業後、国内生命保険会社本社において約6年間、保険支払業務システムの企画を担当。その後、ヤフー株式会社で約3年間、PCの検索サービス、モバイルディレクトリ検索サービスの立ち上げに携わる。同社退社後、オーバーチュア株式会社にてサービス立ち上げ前から1年半、サーチリスティングのエディトリアル、コンテントマッチ業務を担当する。2004年に世界初のモバイルリスティングを開始したサーチテリア株式会社を創業、同社代表取締役社長に就任。2011年にサーチテリア株式会社をGMOアドパートナーズ株式会社へ売却。GMOサーチテリア株式会社代表取締役社長、GMOモバイル株式会社取締役を歴任。2014年ロボットスタート株式会社を設立し、現在同社代表取締役社長。著書にダイヤモンド社「モバイルSEM―ケータイ・ビジネスの最先端マーケティング手法」がある。

PR

連載・コラム