ChatGPTで生成された文章を見抜くことはできる？　Amazon不正レビューや教育現場の課題から考える

不正レビュー対策には人力での自衛も

　これらを踏まえて、「AIが書いたかもしれない」文章とどのようにつき合っていけばいいのだろうか？

　まず、Amazonのレビューのような一般ユーザーの感想を装った短いテキストに対しては、従来の不正レビュー対策と同様の方法で自衛するのがよいだろう。

　具体的には、Amazonレビューが短期間で大量に投稿されていていたり、あまりに高評価ばかりだったりと不自然に感じる部分がある場合には、他の販売サイトのレビューや、SNSや個人ブログなどの感想を探してみることをおすすめする。

　もちろん、SNSなどの感想も必ずしも正しいとは限らないものの、短いレビューコメントに比べると、本当にその商品を使った人の感想なのか、商品の評価を押し上げるための偽レビューなのかの判断材料は多い。

　あわせて、販売サイトに登録されている販売者情報を確認することで、日本国内に拠点を持った企業なのか、そうでないのかといったことを知ることができる。

教育現場では「適切な活用」を模索

　生徒や学生のレポートや課題の採点を行う教員や教授らにとって、生成AIは悩ましい存在だろう。現時点では完全に見分けることが困難だからこそ、どのように向き合っていくかの模索が続く。

　文部科学省は、学校現場での生成AI利用についてのガイドラインを夏前に公表するとしており、2022年5月16日に実施された「デジタル学習基盤特別委員会」の会議資料には、ガイドラインに盛り込む具体的な項目案も記載されている。

　年齢制限や著作権、個人情報の扱いなどに加え、活用が考えられる場面と禁止すべきと考えられる場面や、生成AIを活用した授業のアイデアなども盛り込んでいくとのことだ。

　今回公表されたものは暫定的なものだが、一律の禁止ではなく、一定の制約を設けたうえで、生成AIを使いこなす能力を養っていく視点も尊重していく方向となることがうかがえる。

「完全に見分けられない」からこそ、つきあい方の模索が必要

　この先、判定ツールの精度が上がることで、AIが生成したテキストをより高確率で見分けられるようになる可能性はある。しかし、おそらくすぐに、そのツールの判定をかいくぐるテクニックも生み出されるだろう。

　同時に、ツールの精度が上がり、それに頼る人が増えれば、人が書いた文章がAI生成だと誤判定され、不当な扱いを受けてしまうといったトラブルも生まれてくるかもしれない。

　「AI生成テキストを完全に見分けることは困難」だと理解したうえで、補助的な手段として判定ツールを使ったり、文章そのもの以外の情報からその文章の信憑性を判断したりといった対応が必要になる。

（トップ画像＝OpenAIより）