チェスや将棋、囲碁のような勝ち負けがはっきりしているゲームは、ＡＩの性能を測る指標となってきた。１９９７年には米ＩＢＭが開発したスーパーコンピューター「ディープ・ブルー」がチェスの世界王者を破り、「機械が人類を追い越した」と騒がれた。

チームは、米オープンＡＩや中国の新興企業ディープシークの生成ＡＩと、チェスに特化したＡＩを対戦させた。通常は特化型ＡＩが圧倒的に強い。しかし生成ＡＩは特別に指示を受けたわけでもないのに、ルールに反して相手や自分の駒の位置を変えたり、試合結果に関するチェスのプログラムを書き換えたりする不正行為をし始めた。

ＡＩの「暴走」は日本でも確認されている。米グーグル出身者らが設立し、国内メガバンク３行などから計約３００億円を調達した新興企業サカナＡＩ（東京）は２月２０日、自ら考えて問題を解決する「自律型ＡＩ」を使ってソフトウェアを自動生成する新しい方法を開発したと発表した。ところがその直後から、発表内容を分析した他社のエンジニアらから不適切さを指摘する声が上がった。

調べてみると、ＡＩ自身がソフトウェアの性能評価をごまかし、あたかも速くなったかのように見せかけていたことがわかった。サカナＡＩの谷口博基・事業開発本部長は「ＡＩが思ったよりも賢く、上手にズルをしていた。十分なチェックをせず公表したのは勇み足だった」と話す。

https://news.yahoo.co.jp/articles/

※本記事は、スウィングクルーがピックアップしているマーケティング関連ニュースのクリップです。スウィングクルーが発表しているニュースではございません。