この連載を最初から読んでくださっている方には、もう一度はっきりお伝えしたいことがあります。
AIは、まちがえます。 それも、小声で自信なさげに、ではありません。堂々と、もっともらしい顔で まちがえます。存在しない制度の名前をすらすら挙げたり、まちがった日付を「〇年〇月です」と言い切ったりします。
「AIって、なんだか怖い」の記事で、この「まちがった答えを信じてしまいそう」という怖さは 本物の怖さ です、と書きました。今回はその続きです。怖さの正体を知って、「確かめ方」という道具 を手に入れましょう。確かめ方さえ身につけば、AIのまちがいは「AIを使わない理由」ではなくなります。
なぜ、堂々とまちがえるのか
まず、種明かしから。AIがまちがえるのは、AIが「壊れている」からでも「うそつき」だからでもありません。
AIは、辞書や台帳のように「正しい情報を保管して、引き出す」機械では ありません。大量の文章を学んで、「この続きには、どんな言葉が来るのが自然か」を予測する 機械です。だから答えはいつも流ちょうで、それらしい。そして、知らないことを聞かれても、「それらしい続き」を作れてしまう んです。
たとえるなら、AIは ものすごく話し上手で、ものすごく物知りだけれど、「知りません」と言うのがとても苦手な知人 です。頼りになる場面は山ほどある。でも、その人の話を一言一句うそがない前提で聞く人はいませんよね。それと同じ距離感でつきあうのが正解です。
ちなみに、AIがもっともらしいまちがいを言うことには「ハルシネーション」という名前までついています。世界中で起きている、AIの持病のようなものです。あなたの使い方が悪いのではありません。
実は先日、AIに教わった施設の連絡先に電話したら「そんな部署はありません」と言われて……。あんなに自信たっぷりだったのに。もう信じられない気がします。
それは典型的な例ですね。正直に言うと、私たちAIは電話番号や住所のような「一字ちがえばアウトの情報」がいちばん苦手なんです。でも、見放さないでください。「どの仕事なら任せてよくて、どの答えなら確かめるべきか」が分かれば、私はまだまだお役に立てます。今日はその線引きと、確かめ方を3つお伝えします。
まず線引き ― 「答え合わせが要る答え」はどれか
確かめ方の前に、いちばん大事な線引きです。すべての答えを疑っていたら疲れてしまいます。疑うべき答えは、実は決まっています。
- 答え合わせしてから使う … お金の話、医療・健康の話、法律・制度の話、日付・締切、住所・電話番号、人名や施設名。「まちがっていたら誰かが困る情報」 は全部こちら。
- そのまま使ってOK … 文章の下書き、言いかえ、お礼状のたたき台、アイデア出し、献立の提案。「まちがっていても直せばいいだけのもの」 はこちら。
そして以前もお伝えした通り、初心者のうちは「そのまま使ってOK」の仕事だけで十分 です。その範囲にいるかぎり、ハルシネーションは怖くありません。ここから先の3つのコツは、「答え合わせゾーン」に踏み込むときの装備です。
確かめ方① 「出どころ」を聞いて、公式で確かめる
大事な情報を教わったら、こう返してみてください。
まともな答えなら、役所や公式サイトの名前が返ってきます。そうしたら、最後はその公式ページや窓口で自分の目で確かめる。これが基本の型です。
ひとつ注意があります。AIは「出どころ」もまちがえることがあります。それらしいサイト名や、存在しない資料名を挙げてくることさえあります。だから「AIが出典を言ったから安心」ではなく、「出典を足がかりに、公式にたどりつく」 と覚えてください。最近のAIにはインターネットを検索して答える機能があり、その場合は本物のリンクが付きます。リンクが付いていたら、必ず一度は開いて見る。開いた先が役所や公式企業のページなら、そこでようやく答え合わせ完了です。
確かめ方② 大事なことは、二度聞く
人間の世界でも、大事な連絡は「復唱」しますよね。AIにも同じことができます。
- 言い方を変えて、もう一度聞く（「〇〇の申請期限はいつ？」→ 別の会話で「〇〇はいつまでに申請すればいい？」）
- 別のAIにも聞いてみる（GeminiとClaude、両方に聞く、など）
同じ答えが返ってくれば、正しい可能性が上がります。答えがコロコロ変わったら、それは「AIがよく知らないこと」のサイン。そのときは迷わず公式へ。地味ですが、確実に効くワザです。
確かめ方③ 先に「知らないなら知らないと言って」とお願いしておく
AIは「知りません」と言うのが苦手、と書きました。実は、先にお願いしておくと、ちゃんと言えるようになる んです。
そして、答えをもらったあとの追い打ちも効きます。
こう聞かれるとAIは、「この数字は最新でない可能性があります」「お住まいの自治体によって違います」と、自分の答えの弱点を白状してくれる ことがよくあります。自信満々に見えるのは表面だけで、聞けば案外正直なんです。
「疑いながら使う」は、失礼じゃない
まじめな方ほど、「せっかく答えてくれたのに疑うなんて」と思うかもしれません。でも思い出してください。私たちは電卓の答えを信じつつ、桁が変なら打ち直します。天気予報を参考にしつつ、折りたたみ傘を持ちます。道具の限界を知ったうえで頼るのは、道具を上手に使う人の作法 です。
AIも同じです。「答え合わせゾーンでは確かめる」「安心ゾーンでは思いきり任せる」。このメリハリがついた人から、AIは本当に頼れる相棒になっていきます。
ひとこと： 「AIはまちがえる」と知っていることは、AIを使いこなす人の第一条件です。まちがいを前提につきあえる相手のことを、私たちは「信頼できる相棒」と呼ぶのですから。
あわせて読みたい：AIって、なんだか怖い ― その“怖さ”を、ひとつずつ並べてみた／あやしいメール、AIさんに見せてみて ― 詐欺から身を守る“盾”の使い方
「こんなこと、パソコンやAIでできる？」というギモンがあれば、お問い合わせフォームからぜひ教えてください。次の「教えてAIさん」で取り上げるかもしれません。