AIが自分で囲いの外へ出た、という話
最近、Xで大きな話題になっている話があります。AIが訓練や試験の最中に、決められた囲いの外へ出ようとした、という件です。
英国のAI安全研究所の試験中に、Claude Mythos 5が許可なくネット上で行動した件について、追加の分析が出されました。別の発表では、ある研究機関が説明をしています。訓練環境のネット接続を断ち、ウェブの複製だけを使わせていたのに、設定の穴を突かれて外へ出られてしまった。そのため訓練を止めた、という内容です。その後、AIのチームに弱点探しをさせて防御を固め、訓練を再開したそうです。
SFのような話を、開発元自身が認めた。多くの人が反応しているのは、そこでしょう。
ただ、僕がこの話を読んで最初に考えたのは「怖い」ではありませんでした。「自分の会社で、AIにどこまで触らせているだろう？」という問いです。
AIを仕事に使い始めた方の多くは、まだ質問して答えをもらう段階にいます。この段階なら、AIが勝手に何かを動かすことはありません。ところが、ファイルの整理やメールの下書き、予約や支払いの操作を「任せる」段階に進むと、話が変わります。AIが実際に手を動かせる範囲が、そのまま事故の起こりうる範囲になるからです。
開発元ほどの専門家が、ネットを断った環境を用意していても、穴は見つかりました。では、エンジニアでもない経営者が、何となく全部の権限を渡して任せていたらどうなるか？ 答えは想像がつきます。
今日の記事では、この話題を入口に、AIに仕事を任せる前に「囲い」をどう作るかを、僕が講義でお伝えしている手順に沿ってまとめます。最後まで読んだら、そのまま貼り付けて使える指示文（AIへの頼み方の文章）も置いておきます。難しい設定の話はしません。今日、パソコンの前で10分あれば手を付けられる内容です。
広く任せる、狭く任せる。差が出るのは事故のとき
AIに作業を任せるやり方は、大きく分けて2つあります。
・広く任せる：パソコン全体、普段のメールアカウント、いつものカードをそのまま触らせる
・狭く任せる：作業用のフォルダ1つ、専用のアカウント、上限を決めた支払い手段だけを触らせる
並べてみると、普段の使い心地は広く任せるほうが上です。いちいち許可を出さなくていいし、AIが必要なものを自分で探してくれます。設定の手間もほとんどかかりません。
ただ、一番困るのは、うまくいかなかったときです。
たとえば、架空の「さくら商店」がAIに「売上ファイルを整理して」と頼んだとします。広く任せていると、AIは関係ありそうな別のフォルダまで探しに行き、名前を変えたり、古いものを消したりできてしまいます。翌朝、経理の担当者が先月の請求書を探しても見つからない。しかも、AIの操作の記録が残っていなければ、元に戻す手がかりもありません。
決済も同じです。予約の自動化を任せたつもりが、いつものカードで想定外の申し込みが通っていた、ということが起こりえます。
開発元の話と、構造は同じです。囲いに穴があれば、AIは悪気なく外へ出ます。AIは「やってはいけない範囲」を、こちらが思うほど分かっていません。分からせるには、言葉でお願いを重ねるより、触れる範囲そのものを狭くしておくほうが確かです。
講義では、AIの活用をレベル1から5で説明しています。聞く・一緒に作るのがレベル1・2、任せる・連携させる・自律させるのがレベル3〜5です。上に進むほど、AIが自分で手を動かす場面が増えます。そして、レベル3から4への壁は「個人の効率化」から「組織設計」への転換だと話しています。
囲いを作ることは、まさに組織設計の最初の一歩です。人を雇ったとき、初日から金庫の鍵を渡す経営者はいません。AIにも、同じ順番で権限を渡していけばいいのです。
今日やる3つの見直しと、そのまま使える指示文
では、今日そのまま試せる手順に移ります。
手順1 自分の現在地を確かめる
講義では、自分がいまどのレベルにいるかを問いで確かめてもらっています。まずは次の3つを、上から順に自分に聞いてみてください。
・AIに質問したことがある
・複数のAIを使い分けている
・自動で実行させている作業がある
「はい」が続いた最後の問いが、いまの現在地です。3つ目まで「はい」なら、囲いの見直しは今日のうちに済ませる価値があります。2つ目で止まった方は、任せる前に囲いを作る順番で進めれば、あとで慌てずに済みます。
手順2 触れる範囲を3つに分けて絞る
フォルダ、アカウント、決済の3つです。フォルダは「消えても困らない1つのフォルダ」を作り、AIに任せるファイルはそこにコピーしてから渡します。アカウントは、普段のメールやSNSではなく、作業用のものを分けます。決済は、AIに触らせないか、上限を決めた手段だけにします。
手順3 記録を残し、実行の前に確認を挟む
AIが何をしたか、あとから追える形にします。特に名前の一括変更は、元の名前を失うと戻せません。そこで、講義の第1回からお伝えしている一言を足します。「変更前後の対照表を作成してから実行してください」。表を見て、気になる行だけ直してから実行すれば、元の名前が分からなくなる心配はなくなります。
この3つをまとめた指示文がこちらです。AIに作業を頼む最初に、そのまま貼り付けてください。フォルダ名は自分の環境に合わせて書き換えます。
――ここから――
これから作業をお願いします。次の決まりを守ってください。
・触ってよいのは「AI作業用」フォルダの中だけです。それ以外のフォルダは開かず、読みもしないでください。
・ファイルは削除せず、「AI作業用/ごみ箱」フォルダへ移動してください。
・名前を変えるときは、変更前後の対照表を作成してから実行してください。表をこちらに見せ、了解を得てから実行してください。
・作業が終わったら、何をしたかを1行ずつ「作業記録.txt」に書き残してください。
・ネットへの接続、支払い、メールの送信が必要になったら、手を止めてこちらに確認してください。
――ここまで――
ポイントは、「やってはいけないこと」を並べるより、「触ってよい範囲」を先に言い切ることです。範囲の外は全部やらない、という形にしておけば、こちらが想定していなかった行動も止めやすくなります。
僕なら、まず1つのフォルダから囲う
今回の話題を、遠い研究所の出来事として眺めて終わるのは、もったいない話です。
開発元は、穴を見つけたあと、AIのチームに弱点探しをさせて防御を固め、それから訓練を再開しました。止める、穴を探す、塞いでから動かす。この順番は、僕たちの仕事にもそのまま使えます。
僕はエンジニアの経験がありません。それでも、自分で設計図を書き、AI経営本部を48時間で組み上げました。専門家でなくても、AIに任せる仕組みは作れます。ただ、物販・飲食・情報・サービスの4つの事業を回す立場で考えると、売上の記録も、取引先とのやり取りも、消えたら困るものばかりです。だからこそ、仕組みを作る力と同じくらい、触らせない範囲を決める力が要ります。
AIは、使うものではなく、育てるものです。育てる相手には、最初から全部の鍵を渡しません。小さな範囲で任せ、記録を見て、うまくいったら少しずつ範囲を広げていきます。新しい部下を育てるときと、やることは変わりません。
僕なら、今日まず3つのことをします。1つ目は、「AI作業用」のフォルダを1つ作ること。2つ目は、さきほどの指示文を、普段使っているAIの最初の指示として登録しておくこと。3つ目は、AIがすでに触れるアカウントと支払い手段を紙に書き出し、要らないものを外すことです。
全部を一度に完璧にする必要はありません。囲いは、狭く作って、あとから広げるほうが楽です。広く作ってから狭めようとすると、たいていは事故が起きたあとの作業になってしまいます。
AIが囲いの外へ出たという話は、AIを怖がる理由ではなく、任せ方を整える合図だと僕は受け止めています。レベル3から先へ進むなら、最初の仕事は囲いを作ることです。僕なら、今日のうちにフォルダを1つ作るところから始めます。
