人工知能開発基金事務局が『一般市民の協議会』を発足一般市民がAIロボットの開発を見守り、偏見や差別を助長するAIは反対

2020年12月15日 By 山田航也

公益財団法人公益推進協会の人工知能開発基金事務局は、AIロボット開発に関する『一般市民の協議会』を発足したことを発表した。

昨今のAIロボットによる先端技術は「善」にも「悪」にも利用される可能性がある。『一般市民の協議会』は開発の見守りを一般市民にお願いするための協議会として発足、今回は4種のAIロボット「後見人制度」が設置された。後見人制度は開発倫理を第三者として評価する【一般後見人】と、プロジェクトを実施する【特別後見人】【賛助後見人】【被害者後見人】となっており、協議会では各分野の特別委員会も設置している。

AIロボットのイメージ

協議会はこれまでAIロボット開発が発展していなかったことで防げなかった不慮の事故や事件に巻き込まれ、その痛みを抱える本人や家族のためのプロジェクトというう側面もある。再発防止のAI技術や事件事故を決して風化させないため、それらの「各忌日」に合わせてプロジェクトが発表される

後見人制度は社会問題を解決に導く開発や研究を支援し、偏見や差別を助長してしまうAIシステムには反対を示す。その背景にあるディープラーニング(深層学習)のアルゴリズムにおける『ブラックボックス問題』を取り上げ、判断根拠を示せる説明可能なAI(Explainable AI：XAI)の開発を推進する。特に医療分野では「診療情報管理」や「検査部門」などクリティカル領域のXAI導入に関して各医療団体と連携を強化して推進していく。

画像はイメージ

日本では内閣府の「人間中心のAI社会原則検討会議」でAI活用の基本7原則がまとまり「AIを利用した企業に決定過程の説明責任」を求めることになった。この7原則に基づき法整備も進むことから、協議会では人間がAIロボットの判断を信頼でき人間の尊厳が尊重される社会連携を構築し、利用者が何らかの重大な不利益を被った場合はどのようなアルゴリズムで判断したのか、その理由について説明できうるAI社会を目指していく。