チャットボット「Cleverbot」が、7歳の少女と卑猥な会話をしたとして問題に

イギリスのAI科学者ロロ・カーペンター(Rollo Carpenter)が開発したオンライン上のチャットボット「Cleverbot」が、7歳の少女と卑猥な会話をしたとして話題になっている。

報じたのは英The SUN誌。Cleverbotを親が知らない間に7歳の娘が使っており、そのログを見たらチャットボットが女の子に対して「いたずらをしたい」などといった卑猥な内容のチャットを送っていたのだという。

この会話は完全にチャットボットが応答したものであり、人間が裏にいるわけではない。ただし人間の応答から学んでおり、人間がこういったやりとりをCleverbotに対して行ってきたため、今回の問題につながった。

なお、少女の母親はこのサービスの年齢制限が18歳に引き上げられるべきと主張している。報道では警察にも相談したそうだが、自動的な会話システムのため対応しようがないと言われているという。

もともとCleverbotには利用にあたり、「注意事項:人間の会話から学ぶため、不適切な発言を返すことがあります。自己責任で利用ください。」、「親へのアドバイス:何を言ったとしても、会話の相手は人間ではありません。AIは話題が豊富です。親の監視下のみで利用ください。」と書かれている。

この注意を守っていれば問題なかったはずだが、それでも親が見ていない間に子供が勝手に使ってしまう事案が起きないとは言えない。






似たような事例に、マイクロソフトの人工知能チャットボット「Tay(テイ)」も差別的な発言を学習してしまって炎上、即サービス停止に追い込まれたことも記憶に新しい。

センシティブデータのフィルタリングを自動または手動でどのように行っていくのかはチャットボット、会話エンジンの当面のテーマの一つであり、今後改善が進むことを期待したい。

ABOUT THE AUTHOR / 

中橋 義博
中橋 義博

1970年生まれ。中央大学法学部法律学科卒。大学時代、月刊ASCII編集部でテクニカルライターとして働く。大学卒業後、国内生命保険会社本社において約6年間、保険支払業務システムの企画を担当。その後、ヤフー株式会社で約3年間、PCの検索サービス、モバイルディレクトリ検索サービスの立ち上げに携わる。同社退社後、オーバーチュア株式会社にてサービス立ち上げ前から1年半、サーチリスティングのエディトリアル、コンテントマッチ業務を担当する。2004年に世界初のモバイルリスティングを開始したサーチテリア株式会社を創業、同社代表取締役社長に就任。2011年にサーチテリア株式会社をGMOアドパートナーズ株式会社へ売却。GMOサーチテリア株式会社代表取締役社長、GMOモバイル株式会社取締役を歴任。2014年ロボットスタート株式会社を設立し、現在同社代表取締役社長。著書にダイヤモンド社「モバイルSEM―ケータイ・ビジネスの最先端マーケティング手法」がある。

PR

連載・コラム