社会学者ニクラス・ルーマンの信頼論を補助線に、AIシステムを仕事の相棒として信頼できるのかを考察したコラムです。DXの定石とされる進め方が、実は信頼を積み上げる手順そのものだったと読み解いています。

出典媒体名：DIGITAL X（デジタルクロス／インプレス）
記事タイトル：そもそもAIは信頼できるのか【第27回】
公開日：2026年08月14日
元記事URL：https://dcross.impress.co.jp/docs/column/column20250703/004782.html

🔎 要点

• 筆者は磯村哲氏（DXストラテジスト）。予測や分類ではAIが人間を超える精度を示すが、就職先の決定をAIエージェントに委ねて自分の意思を介在させないことには腑に落ちなさが残る、という問いから出発している。
• ルーマンの整理する3つの信頼（馴れ親しみ／人格的信頼／システム信頼）に照らすと、AIは人格的信頼が壊滅的で、馴れ親しみも新しい技術ゆえ当面は成立しにくい。議論はシステム信頼に絞られると論じる。
• 別の切り口として「善管注意義務」を挙げ、2つの疑問を提示。AIが払うべき注意力の水準が分からないこと、そして仮に計算を簡略化していても説明が上手すぎて手抜きを判断できないこと。
• 人が何かを信頼するのは、信頼しないことのコストが大きすぎるため＝省力化のため。手抜きして失敗しても後悔しない領域ならAIに任せられる、という基準を示している。
• DXの定石とされる「スモールスタート・スモールサクセス」「まずはトップが実践」「現場ヒアリング」は、いずれもシステム信頼や人格的信頼を積み上げる手順として説明できるとする。末尾で筆者は、ルーマンの原典は未読でネット上の解説を信頼して執筆したと明かしている。

💡 運営者コメント

この記事は「AIを信頼するか」という話ですが、我々の日常業務はその裏側、つまり「AIに信頼される側をどう作るか」に関わっています。ルーマンの3分類をそのまま企業情報の側に折り返してみると、示唆がはっきりします。AIには人格的信頼が働かないので、担当者の熱意も社長の人柄も、モデルが自社を説明する材料にはなりません。残るのは、公開されている情報が他の情報源と整合し、参照に足る形で置かれているかという、システム的な確からしさだけです。

この観点で言えば、GEOの実務は「AIに好かれる工夫」ではなく「照合に耐える状態を作る作業」だと言い換えられます。自社サイトの記述と、業界団体の名簿と、採用サイトと、プレスリリースで、事業内容や設立年や所在地が食い違っていない。数字には出典と時点が添えてある。更新日が分かる。地味ですが、こうした整合性こそが、人格を持たない読み手にとって唯一の判断材料になります。逆に言えば、あちこちで表記が揺れている企業は、モデルがどれを採用すべきか決めかねる状態を自ら作っていることになります。

記事中で最も実務に刺さったのは、善管注意義務をめぐる2つ目の疑問、つまり「説明が上手すぎて手抜きが判断できない」という指摘です。これはマーケティング現場でAI出力を扱う際の核心だと考えています。文章としての完成度と、内容の確からしさは別の軸です。整った日本語で自信ありげに書かれているほど検証が甘くなる、という傾向は、我々もクライアント支援の中で実際に見ています。AI出力を使う工程には、体裁の良さに引きずられない確認手順を明示的に置く必要があります。

美容・健康の領域を18年見てきた立場から言えば、この構図には既視感があります。この分野では、もっともらしく整った説明ほど鵜呑みにされやすいという状況を長く見てきました。だからこそ我々は、表現の巧拙ではなく、その主張が何に基づいているかを常に確認する運用を続けています。AI出力に対しても同じ姿勢が必要で、これは法的判断ではなく、現場で積み上げてきた運用上の作法です。とりわけ広告表現やクレーム対応の文面をAIに書かせる場合、出力の説得力が高いことは、確認工程を省いてよい理由には一切なりません。

最後に、筆者が原典未読であることを明かしている点は、書き手として誠実な態度だと感じました。何を根拠にそう述べているのかを開示する。これは人間の読者に対してだけでなく、機械に読まれる前提でも有効に働きます。根拠と限界が本文に書かれている文章は、引用されるときに文脈ごと運ばれやすい。自社の情報発信でも、断定しきれない部分を断定しないまま書いておくことが、結果的に誤読を防ぐと我々は考えています。

🔗 関連記事
日本企業のAI導入の実態と予算見通しはこちらで扱っています。
【マーケニュースクリップ】8月ロイター企業調査：ＡＩ利用、6割は「限定的」も過半数が予算増の見通し（ニューズウィーク日本版）

手元で動くAIが広がる流れについてはこちらです。
【マーケニュースクリップ】メタ、有料AIに「無償」で挑む──ローカル動作モデル「Muse Glimmer」公開（Forbes JAPAN）

※本記事は外部ニュースの要約・引用です。
当社の公式見解ではありません。