「雑談の道具」だったAIが、研究室に入り始めた
AIに何かを聞くと、もっともらしい答えが返ってきます。読んで「なるほど」と思い、そのまま会議資料に貼る。あとで「この数字はどこから？」と聞かれて、答えに詰まる。AIを仕事に使い始めた方なら、一度はこんな場面に出会ったことがあるのではないでしょうか？
いま X では、AIが科学研究の現場に入り始めたという話題が伸びています。出てきた話を短く並べると、次の4つです。
■湿式の実験データ（実際に試薬などを扱う実験の生データ）を、AIエージェント（指示を受けて自分で手順を進めるAI）が正しく読めるかどうか？それを100の実務タスクで測る新しい評価指標が公開された
■科学のモデル（現象を説明する数式や仕組み）を、AIがプログラムとして書き、試し、直していく取り組みが出てきた
■人の指導のもとで、古い1024ビットのRSA暗号（インターネットで長く使われてきた暗号の方式）の弱点を2つ見つけたという研究が出た
■非公開のAnthropicのモデルを使ったシステムが、量子計算の未解決の予想を証明し、証明支援ツールのLean（証明が正しいかを機械で確かめる道具）で検証したと、ある企業が発表した
「AIは雑談の道具」という印象を超えて、専門家の難しい仕事で成果が出た。具体的な話だからこそ、多くの人が反応しているのだと僕は見ています。
ただ、経営者として僕が目を留めたのは、派手な証明のほうではありません。1つ目の評価指標です。そこで測られているのは「データの誤りを見つけられるか」「根拠が足りないときに気づけるか」という力でした。つまり、答えを出す力だけでなく、答えを疑う力を測り始めたわけです。
これは研究室だけの話ではありません。冒頭の会議資料の場面で欠けていたのも、まさにこの力でした。
「科学の話だから関係ない」は、もったいない
第3回の講義で、僕は「工場の話だから自分には関係ない、は誤解です」と話しました。世界的な経営の考え方は、たとえ製造業から生まれたものでも、仕事のやり方として読み替えれば、知識労働にもAI活用にも使えます。
今回のニュースも同じです。湿式の実験データを、自社の売上表や見積もり、仕入れの記録に置き換えてみてください。試薬の量を読み違えることと、単価の桁を読み違えることは、構造としては同じです。データを読み、おかしな箇所に気づき、根拠が足りなければ足りないと言う。AIに求められていることは、研究室でも会社でも変わりません。
では、なぜAIは根拠が薄いまま結論を出してしまうのか？ 僕の考えでは、AIの頭が悪いからではありません。「どこまで根拠がそろえば結論を出してよいか」という基準を、こちらが渡していないからです。
ここで第2回の講義の話につながります。判断基準は土台で、事業はその上に載るアプリです。iPhoneのOSがなければ、どんなに優秀なアプリも動きません。AIも同じで、土台の基準がないまま仕事を頼むと、AIは毎回その場で基準を作ります。今日は厳しく、明日は甘い。答えがぶれる原因の多くは、ここにあります。
講義では、事業ごとに判断基準を作らず、土台となる基準を1つ決めてくださいと伝えています。仕事だけでなく、家庭の判断でも同じ基準でぶれないかを確かめてほしい、とも。僕自身、物販・飲食・情報・サービスの4事業を回していますが、事業が複数あるからこそ、土台を1つにしておく意味は大きいと考えています。
「根拠が足りないときは、結論を出さない」。この一文を土台に置くことが、AIに疑う力を持たせる入口になります。
今日そのまま試せる、根拠の点検3ステップ
手順は3つだけです。
1. 最近AIに出してもらった結論を1つ選びます。売上の見立て、取引先への提案の要点、会議のまとめなど、間違っていても大きな損が出ない小さなものから始めてください。
2. その会話の続きに、下の指示文をそのまま貼ります。1行目の「判断の土台」は、自分の会社の言葉に書き換えてかまいません。
3. 「△」が付いた根拠を1つだけ選び、自分の目で元のデータを確かめます。
指示文は次のとおりです。
（ここから）
判断の土台：根拠が足りないときは、結論を出さずに「根拠が足りません」と答えること。
この土台に沿って、いま出した結論を点検してください。
1. 結論を支えている根拠を、すべて箇条書きにしてください。
2. 根拠ごとに、次の印を付けてください。
◎ こちらが渡したデータに書いてある
○ 一般に知られている事実だが、確認が必要
△ 推測で補った
3. △の根拠が外れていた場合、結論がどう変わるかを書いてください。
4. 渡したデータの中に、誤り・矛盾・桁の違いが疑われる箇所があれば、場所を示して指摘してください。
5. 根拠が足りないと判断したら、何を追加で渡せばよいかを具体的に挙げてください。
（ここまで）
コツは、結論を出させた同じ会話の中で頼むことです。そうすれば、AIは自分が何を根拠にしたのかをたどり直せます。
もう1つ。△が多く出ても、がっかりする必要はありません。むしろ、それが見えたこと自体が成果です。今まで黙って資料に貼っていた答えの、どこが推測だったのか？それが一覧になって手元に残るからです。
慣れてきたら、1行目の「判断の土台」を、AIに毎回最初に渡す設定へ移してください。ChatGPTのカスタム指示や、Claudeのプロジェクトの指示がそれにあたります。毎回貼る手間がなくなり、どの仕事を頼んでも同じ土台で答えやすくなります。
僕なら、AIに「足りません」と言わせる一手から始める
ここまでの読み取りを、やること・やめることに分けておきます。
■やること
・AIの結論に、根拠の点検を一手間足す（間違いは、答えよりも根拠の側に隠れていることが多いから）
・判断の土台を1つ決め、すべての仕事で使い回す（事業ごとに作ると、AIの答えも事業ごとにぶれるから）
・科学や製造業の話も、自社の仕事に読み替えて取り入れる（業界の違いは、使わない理由にならないから）
■やめること
・AIの答えを、根拠を見ずに資料へ貼る（数字の出どころを聞かれたとき、説明できる人がいなくなるから）
・派手な成果のニュースだけを見て、大きな仕事を丸ごと任せる（暗号の研究は人の指導のもとで、証明はLeanでの検証とセットで出てきた成果だから）
なお、ここに書いたのは僕なりの読み取りで、研究そのものの評価ではありません。成果の細かい中身は、これから変わっていく部分もあるはずです。
それでも、方向ははっきりしていると僕は見ています。AIに求められる力は、答えを出すことから、答えを疑うことへ広がり始めました。研究の世界がその力を100の実務タスクで測り始めたのなら、会社の中でも同じ物差しを持っておくほうがいい。
僕は「AIは、使うものではなく、育てるもの」だと考えています。育てるとは、知識を詰め込むことではありません。何を大事にし、どこで立ち止まるのか？その土台を渡すことです。
僕なら、明日いきなり大きな仕事を任せる前に、今日、AIが出した結論を1つだけ選んで、点検の指示文を貼ります。そしてAIが「根拠が足りません」と返してきたら、それを失敗とは受け取りません。AIが育ち始めた合図として、喜んで受け取ります。
