イギリスのAI科学者ロロ・カーペンター（Rollo Carpenter）が開発したオンライン上のチャットボット「Cleverbot」が、7歳の少女と卑猥な会話をしたとして話題になっている。
報じたのは英The SUN誌。Cleverbotを親が知らない間に7歳の娘が使っており、そのログを見たらチャットボットが女の子に対して「いたずらをしたい」などといった卑猥な内容のチャットを送っていたのだという。
この会話は完全にチャットボットが応答したものであり、人間が裏にいるわけではない。ただし人間の応答から学んでおり、人間がこういったやりとりをCleverbotに対して行ってきたため、今回の問題につながった。
なお、少女の母親はこのサービスの年齢制限が18歳に引き上げられるべきと主張している。報道では警察にも相談したそうだが、自動的な会話システムのため対応しようがないと言われているという。
もともとCleverbotには利用にあたり、「注意事項：人間の会話から学ぶため、不適切な発言を返すことがあります。自己責任で利用ください。」、「親へのアドバイス：何を言ったとしても、会話の相手は人間ではありません。AIは話題が豊富です。親の監視下のみで利用ください。」と書かれている。
この注意を守っていれば問題なかったはずだが、それでも親が見ていない間に子供が勝手に使ってしまう事案が起きないとは言えない。
似たような事例に、マイクロソフトの人工知能チャットボット「Tay（テイ）」も差別的な発言を学習してしまって炎上、即サービス停止に追い込まれたことも記憶に新しい。
センシティブデータのフィルタリングを自動または手動でどのように行っていくのかはチャットボット、会話エンジンの当面のテーマの一つであり、今後改善が進むことを期待したい。
