第36話無邪気で巧妙な詐欺師へと進化を遂げたAI

対話型AI「ChatGPT」のAI言語モデルが最新の「GPT-4」に進化したらしい。とにかくすごいと騒ぐ人たちがたくさんいるので、試してみることにした。いわく、もう簡単な文章の仕事は全部ChatGPTにまかせればいいレベルだという。それはすごい。これを機会に弊社もAIを導入し、業務の品質向上と効率化を図ろうではないか。

さしあたり、このコラムを書かせて、楽をさせてもらおう。細かく条件を調整して文書を書いてもらったが、結論から言えばどうにもならなかった。理由は単純で、ChatGPTは簡単にウソをつくのだ。

出来上がった文章は、よく見かけるネット記事っぽい構成で、その点で違和感は少ない。しかし、話題によってはまったく事実に基づかない内容になっており、公開する記事としては当然ながら不適切なものだ。ところが、生成される文章はよどみなく、切れ味もいい。この自信たっぷりにウソをつく手法は、詐欺師の手口のひとつだ。

試しにChatGPTを使って、ネットニュースで見かけるような「お笑い芸人のSNSの投稿から面白そうな話題を拾って記事にする」というスタンスで文章を生成してみた。

私も知っている芸人の名前が5、6人挙がり、それぞれのツイッターのアカウントが並記されるという、ネットニュースでよく見かける体裁で記事が生まれてくる。その完成度に驚きつつも、ふと気になって、文章中のアカウントを確認してみた。すると、存在したのは最初の1つだけで、ほかはすべてフェイクのアカウントだった。当然ながら投稿も存在しない。ファクトチェックしたから気づいたが、たとえばネットニュースを読む大半の人たちはそんなことはしない。

一方で「ChatGPTは、ほとんどは正しいことを答えている」という反論はあるだろう。しかし、ChatGPTがほぼ正確な情報を込めて書いたとしても、わずかな間違いが混じれば、それは非常に“たちの悪い”情報になる。事実の中に少しだけウソを混ぜて語る。これも典型的な詐欺師の手口だ。正しい情報を並記することで、織り交ぜられたウソに気づけない人が増える。SNSで流布される陰謀論などではおなじみの手法となっている。

AIの技術は日々進化する。また、不具合に関してはさまざまなフィードバックを基にどんどん改善されていくだろう。しかし、現状のChatGPTは、文章の作成機能として、その意味で最悪の体裁になっているとも言える。絶賛の中で、この手の懸念事項はしばしば無視される。

もちろん、これがChatGPTのすべてではない。ここで試したのは、数え切れない利用方法のひとつでしかなく、さらに言えば、目的を持ってプロンプトでカスタマイズして使うのが効果的だと思う。カジュアルな利用方法としては、文章の要約などには力を発揮する印象だった。

とはいえ、人が描いたような絵を描くAIと同様に、人が書いたような文章を作成するツールとして手軽に利用されるのは間違いない。特に、アクセス数稼ぎの無責任なネット記事であれば、内容の正誤などたいして重要ではないと考える制作者もいるだろう。そして、その制作能力は人を圧倒的に上回る速度を持ち、なおかつ無尽蔵だ。

詐欺文章作成ツールとなったAIがどうなるのか、このコラムが公開される頃にはまったくの取り越し苦労となっている可能性もある。いずれにせよ、強力でイノセントなこのツールを使うのは人間なのだ。AIとは異なり、意志と判断力と心を、おそらく持っているだろう。