AIはウソをつく 無批判で信じてはいけないという例を紹介

知恵袋というサイトがある。何か疑問を持った人が、このサイトに投稿すると、その投稿を見た人が答えをくれるというシステムである。最近は知恵袋の運営者がAIで作成した回答を付け加えるようになっている。

このAIの回答、だいたい妥当な回答を表示していることが多いのだが、ときどきこれは?と思われるものもある。その中で、これはあまりにもにも酷いじやないかという例を見つけたので紹介したい。

質問
質問はつぎのとおりである。
「ENEOS、出光、コスモ石油、 JA-SS、昭和シェル石油、apollostationの意味が知りたい」

AIの答え
この質問に対するAIの回答はつぎのとおり。

  • ENEOS : ENErgyOperationの略で、エネルギー事業を行う会社という意味が込められています。
  • 出光:太陽の光を意味する「出光」という言葉から名付けられました。
  • コスモ石油:COSMOはCosmo Oil Company Limitedの略で、宇宙を意味するコスモから名付けられました。
  • JA-SS:Japan Automobile Service Station Associationの略で、日本の自動車用ガソリンスタンド協会を意味します。
  • 昭和シェル石油:昭和時代に設立された会社で、シェルグループの日本法人です。
  • Apollostation:アポロ計画にちなんで名付けられたガソリンスタンドのブランド名です。
AI回答のキャプチャ画面

このAIの回答を読んで、少しでも石油業界のことを知っている人なら (あるいは一般の人でも)この回答は間違いだらけだとすぐにわかるだろう。

正しい答
筆者が示す正しい答えはつぎのとおり。

  • ENEOS:「ENERGY/エネルギー」と「NEOS/ネオス(ギリシャ語で新しい)」という二つの言葉の組み合わせによる造語(ENEOSのホームぺ-ジより)
  • 出光:出光興産の創業者である出光佐三氏の苗字から。
  • コスモ石油:宇宙を意味するcosmosと世界市民を意味するcosmopolitanから。
  • JA-SS:JA全農が運営するガソリンスタンド(JA全農のJAとサービスステーションのSS)。
  • 昭和シェル石油:昭和石油とシェルグループの日本法人シェル石油が合併してできた会社。
  • Apollostation:出光興産のロゴマークが太陽の神「アポロ」だったことから、昭和シェル石油と統合のガソリンスタンドをアポロステーションと名づけた

AIの回答はどこがおかしいか
AIの回答で特におかしいところは、つぎのような点である。

「出光の由来は太陽の光を意味する」
出光興産は創業者出光佐三氏の名前から来ていることは多くの人が知っているだろう。佐三は「海賊と呼ばれた男」という映画のモデルとなったことでも有名な人物である。出光が太陽の光を意味するというのはAIの作り話に過ぎない。

「JA-SSがJapan Automobile Service Station Associationの略で、日本の自動車用ガソリンスタンド協会を意味する」
ガソリンスタンド関係の組織には全国石油業協同組合連合会(全石連)や全国石油協会という組織はあるが、自動車ガソリンスタンド協会という組織はどこにも存在しない。

「Apollostationはアポロ計画にちなんで名づけられた」
アポロマークは出光興産が1952年からロゴとしていた。米国のアポロ計画は1961年から始まっているから、出光興産のアポロマークはアポロ計画より10年近く早い。アポロ計画にちなんでつけられたということはあり得ない。

AIはなぜこんな間違いをするのだろうか。例えばJA-SSであるが、恐らく石油関連の用語というヒントからJA-SSにJapan Automobile Service Station Associationの略号だと推測であてはめ、それを日本語に翻訳して「自動車用ガソリンスタンド協会」というありもしない組織をでっちあげたのだろう。

ときどき人間でも、勝手な推測や思い込みによってそれが本当であるかのように吹聴して回る人がいたりするが、それと同じようなことをAIもやる可能性があるということなのだ。人間の場合でも、それが大学の先生だったり、有名人だったりすると、それが本当のことのように広がっていくことがある。

すべてのAIがこのようなお粗末な答えを出すわけではないだろう。しかし、常にAIの答えが正しいわけではない。AIの答えを受け取る方もAIが言っていることだから正しいと受け入れるのではなく疑ってかかる必要があるということだ。 AIがフェイクの発信源になると恐ろしいことになる。

2024年10月24日

コメントを残す

メールアドレスが公開されることはありません。