生成AIの引用元表記について

　生成AIが誤った情報を生成し、その情報を信用した、中学１年生２５０人の半数超が、理科の課題で同じ間違いをしたそうな。
　この件を調査した男性教諭は、生成AIが参照した情報は、食品大手「キユーピー」のホームページであることを発見し同社に指摘、同社は誤解を招きかねない表現があったとして修正したそうな。

中学１年生２５０人の半数超、理科の課題で同じ間違い…教諭の違和感の正体は生成ＡＩの「誤答」（読売新聞オンライン） – Yahoo!ニュース

まだ拙いのは解ってたつもりだったけれど

　色々思う所はあるのですが、まず、多少AIで文書生成をしていれば、現在のAIの拙さにはすぐに気付き、結構な確認作業が必要になります。
　ただ、今回AIが中学生にとって授業の答えを調べるような重要な使われ方をしていた点、AIが中学の課題のような答が明確とされているものを誤ったのは驚きでした。

拡散の怖さ

　今回の件では、キユーピーさんが誤情報の指摘を受け訂正するという大人な対応をしたことから皆にプラスになる事例でしたが、自分の誤情報が拡散されてしまうのは場合によってはとても恐いことです。
　またSNSなどでは誤情報を拡散するだけで、罪に問われるケースもあるので、AIで仕入れた知識を発信する際には注意が必要です。

引用元表記が省略されがちなのはよろしくないかも

　生成AIを利用して文書を作成すると、複数の引用元が事細かにハイパーリンク付きで表示されるのですが、Copilotではそれらを、「詳細情報」だったり「ソース」という位置づけで扱っています。
　さらに、AIが生成した文書を引用する際には「AIにて一部作成」という、さらにざっくりした表記のみで済ます文化が増えてきていますが、今回の件などを考えると、AI生成を利用する際には、引用元の確認に加えて引用元の記述もとても重要と感じました。

　余談ですが、画像生成AIでは参照元にした画像やブレンド率などは一切明かされない仕様が一般的です。
そのために、誰かの作品に酷似した生成画像が、拡散してしまうという問題が発生しています。
…そして、それらは作品に限らず、写真や音声など様々な分野でも起こりつつあります。

　その件に関しては、下記の記事などがとても分かりやすく参考になります。

#生成AI 生成AI問題、いち絵描きがお気持ちをグダグダグダグダ描いた漫画 – ika aのマンガ #漫画 #オリジナル #エッセイ – pixiv

コスプレイヤー・えなこさん、自身そっくりの”AIグラビア画像”にコメント　「AIに食われ過ぎて……」

声優の声を使った生成AIの広がりに日本俳優連合が危機感　「努力の盗用」「目に余る」　文化庁にも意見、問題意識の共有訴えた投稿も反響（まいどなニュース） – Yahoo!ニュース

　…ちなみに、「中学生　理科課題　困る　スマートフォン」というワードで、AIによるイラストの自動生成を試したところ下記が生成されました。
いざ触ってみると、ワードによる生成される絵の変化に妙な手応えがあり、やり出すと予想以上に楽しいです。