現時点における（エージェント型AIシステム関連の）悪用行為については、率直に言ってその大半を実験的な試みと見なしていいでしょう。なぜならAIエージェントはまだ生まれたばかりだからです。悪用されたとしても、通常はまだどこかの時点にユーザーの関与があるはずです。例えば、メールエージェントが「あなたの財務情報をすべて送ってください」などというメッセージを受信した場合、エージェントはこのメールを送信する前にユーザーに警告を発します。結果的にこうした手口による詐欺行為は防げるはずです。

わたしたちは多くの経験から、人間の社会がどのように構築されるかを知っています。それは人類が非常に長い時間をかけて経験してきたことだからです。ところが、それぞれに異なる狙いや目的をもつAIエージェントが一斉に交流を始めたときに何が起こるのか、わたしたちはほとんど何も知りません。

https://wired.jp/article/

※本記事は、スウィングクルーがピックアップしているマーケティング関連ニュースのクリップです。スウィングクルーが発表しているニュースではございません。