判断基準を決める。出典元を辿る。人とAI、仕事の仕分け方

皆さんこんにちは、アイオイクスでコンテンツディレクターをしている星野です。最近「これAIに書かせたな…！」って一発でわかる文章、増えてきましたよね（他人事じゃないです）。

普段は記事の制作進行を担当しています。下書きも、構成案の整理も、表現の調整も、いまは当たり前にAIを使っています。

最近よく思うのですが、「人が全部抱える」のも「AIに全部任せる」のも、もう違うんですよね。どこを自分で握って、どこをAIに渡すか、この仕分けそのものが今の制作の仕事な気がしています。実際にディレクションやデザインワークの友人とも「実際どこまでAI使ってる、使えてる？」と度々話題になるくらいです。

先に私の結論を書いてしまうと、仕分けの軸はこうです。

候補を集める速さはAIに任せる。「何を信頼できる発信元とするか」の判断基準を決めておくことと、出典元をたどれるかどうかの最終判断は、人が担う。

なぜこう考えるようになったのか？というと、AIが「読む人に嘘を届けかけた」場面に、何度か出くわしたからでした。

今回はその話を入り口に、私がいまどう仕分けしているかを書いていきます。

よくできているほど、怖い

ある既存記事を、もっと個人の語りが伝わるように書き直す案件がありました。「もっと体験・ストーリーが伝わるようにしたい」と、AIに人間味のある下書きを頼んだ際、3名のエピソードが入った原稿が返ってきました。

読み物としては、一見よくできていました。最初に読んだときは「お、書けてはいそうか？」と思ったぐらいです。語っていることもそれらしいし、「こういうユーザーエピソード、確かに以前担当者から聞いたかも！」と。

当社では人物のエピソードや固有名詞が入った原稿は、公開前に必ず元記事や取材メモと突き合わせる工程を挟んでいます。そこで、いざ照合してみると「いやいやいやこんな人いないじゃん」となりました。

照合の工程があったから引っかかった、が正直なところです。読者がここで一回「ん？」と思うひずみに当たると、「このサイト本当に大丈夫かな」って思われちゃうんですよね。

怖かったのは、嘘だったことより、嘘なのに自然に読めてしまったことでした。私も最初の一読では信じかけたほどです。

「バレる嘘」と「通りやすい嘘」

AIの”もっともらしい誤り”つまりハルシネーションには、2種類あると思っています。

誰が見ても「え？それは違うんじゃない？」と気づける「バレる嘘」と、文章としては破綻がなくて、知識がないとそのままスルーしちゃう「通りやすい嘘」。

今回怖かったのはまさに後者で、一見それっぽいからこそ、編集もすり抜けやすい。今回のケースでは、当たり前ですが元記事にあった事実情報はすべて残し、捏造されたエピソードは削除しました。

以来、エピソードや数字は「出どころが手元にある情報しか使わない」を制作ルールにしています。「通りやすい嘘」は、通さない工程をあらかじめ決めておかないと検知できません。「AIが嘘を盛るなら、人が全部チェックすればいい」と思いたくなりますが、これも難しいところです。

人が手放す項目とAIに任せていい項目

AIに任せていい項目と、任せちゃいけない項目。大きく分けて２点、「着手前にレギュレーションを決めているか」と、「出典元をたどれるか」です。

1.着手前にレギュレーションを決めているか

出典を毎回その場の感覚で疑っていると、結局また消耗します。AIが出してきてから「この出どころは大丈夫か」とゼロから悩むのは、不毛です。

そのため、着手の前に「何を信頼できる発信元とするか」を決めておきます。アイオイクスでは、案件の着手時に「どこを情報元として定めるか」をレギュレーションとして決めています。

公的機関、論文、クライアントから指定された資料、軸は案件ごとに様々ですが、決めてからAIを活用します投。曖昧なままAIを使うと、返ってきた答えを結局またゼロから疑うことになってしまうためです。

この基準さえ決めておけば、出典の候補集め自体はAIに任せることが可能です。「この主張のエビデンスになる出典を、引用できる形で一覧にして」と頼めば、学会誌の論文や公的機関のプレスリリースまで、一気に候補が返ってきます。

この速さは人では出せません。ここをAIに任せられるのは、先に基準を決めているからなんですよね。

2.出典元をたどれるか

レギュレーションの中で、いちばんの基準が「出典元をたどれるか」です。データや定義の出どころは、たどれる発信元か。最後はいつもここに行き着きます。

過去の案件においても「これを記載する際は、一次情報を必ず入れてください」とご要望をいただくことが多かったためです。

AIは「権威の見た目」まで作ってしまう

ある案件でAIに根拠を尋ねたら、もっともらしい論文名と著者を挙げてきたことがありました。書式も整っていて、一見すると確かな出典に見えました。

「じゃあ出典元を見ておこうかな」と念のためGoogle Scholarで著者名とタイトルを検索しても出てこない。通常の検索にもかからない。この時点で「？」が浮かびます。

さらに厄介なのは、タイトルらしき文字列はヒットするのに、中身をたどると主張と別のことが書かれている、というパターンです。実在する名前だけ借りて、中身は「それっぽく」まるごと差し替えられている、あるいは都合よく該当箇所だけ「つまみ食い」をして差し出してきている、といった具合です。

冒頭の架空のユーザーと、根は同じなんですよね。

AIは求められた形に合わせて、足りないところを埋めてくる。だからこそ、その情報を読者に渡していいかの最終判断は、人が握るしかありません。

以来、出典は実在と中身を確認してからでないと採用しない、を工程に含めています。

「一次か二次か」より「遡れるか」が大事

一つ補足すると、「公的機関が出しているから一次情報だ」とも単純には言い切れません。白書のように他の調査をまとめなおしたものは、厳密には二次情報だったりします。

そのため、「一次か二次か」よりも「発信元までちゃんと遡れるか？」「なにかあったとき誰が責任を取るのかわかるか？」の方を見るようにしています。

おわりに

最近は「それっぽいな」と思えるものは本当にすぐ作れるようになってしまいました。速さと量は、もうAIに任せていいと思います。

だからこそ、冒頭の結論に戻ります。人が握るべき点は2つです。

・着手前にレギュレーションを決めておくこと

・出典元をたどれるか、を確認すること

この2つを抑え、残りの多くはAIに任せることができます。逆にこの2点を疎かにすると、どれだけチェック項目を増やしても「通りやすい嘘」は読者に届いてしまう。

私たちがお届けする記事は、ちゃんとこの基準設計と照合の工程を通った記事です。今後も安心していただけるよう、今後も情報とコンテンツのあり方については、体制含めて改善し続けたいと思います。