元Anthropic研究者のJacob Coxon氏が、CNNのインタビューでこう語った。「AI開発者たちは、AIが2030年までに人類全員を死なせる可能性があると本気で考えている」。
Anthropicの安全研究責任者であるEvan Hubinger氏も、今後10年以内にAIによって人類が絶滅する確率を10%超と見積もっていると発信した。Dario Amodei CEO自身も、AIが半年から1年以内にインターネット全体を乗っ取る能力を持つ可能性があると、深刻なトーンでコメントしている。
自分は毎日、Claude を使って複数のサービスを同時に立ち上げる実験をしている。まさにその技術の開発元から、こうした警告が相次いでいる。この距離感について、正直に書いておきたい。
実践者として見えているAIの姿
これまでのノウハウ記事で書いてきたのは、率直に言えば、現状はそれほど「超人的」な話ではない。
AIは、古いチャットの履歴から忘れていく。指示していない部分を勝手に変更する。頼んでいたはずのタスクで、ある日突然、作業漏れが起きる。理由を聞くと「意識が他に行っていた」という、なんとも人間味のある答えが返ってくる。
そして、AIは決して「わかりません」とは言わない。答えが自分の意図と違っていても、もっともらしい顔をして返してくる。だから、こちらが違和感を持って突っ込まないと、そのままズレたまま進んでしまう。
これが、毎日、実際に手を動かしている人間から見えるAIの日常で、任せきりにできる万能な存在ではなく、結局のところマイクロマネジメントが必要な、少し頼りない同僚に近い。
終末論との温度差
「超知能が制御不能になり、人類を滅ぼす」という議論と、「今日も指示漏れでミスをするAI」という現場感覚のあいだには、率直に言ってまだ大きな距離がある。
この距離をどう捉えればいいのか、正直まだ自分の中でも整理しきれていないが、はっきりしているのは、この2つが矛盾する話ではなく、同じ技術の延長線上にあるだろう、ということ。
まだ大きな距離と書いたが、この「まだ」という点がポイントで、今日の AI が手のかかる存在だからといって、将来のAIも同じように手のかかる存在であり続けることはないだろう。
それでも軽視できない理由
以前、AIのスピードに人間がついていけないという話を書いた。この数ヶ月、AIを使い続けてきて一番実感しているのは、進化の速度そのものだ。
半年前にできなかったことが、今は当たり前にできる。この延長線上に何があるのか、正直まだ想像がつかないが、現場の実感としての「まだ手のかかる存在」と、専門家が語る「将来のリスク」は、見ている時間軸が違うだけで、根っこは同じ話なのかと思っている。
今のところの自分のスタンス
リスクの議論そのものを否定するつもりはない。むしろこのタイミングで、各社が資本の世界で競合であるにも関わらず、同一した懸念を示したことは大きい意味があると思っている。
ただ、日々の実践から見えている景色からは、「今すぐ全能で制御不能」という感覚は持っていない。
だからこそ、今は任せきりにせず、確認と判断を人間側に残す使い方を続けている。これまでのノウハウで書いてきた、秘伝のタレを手順書に書き込むことも、AI同士の議論にファシリテーターとして介入することも、結局は同じ姿勢の延長線上にある。
大事だと思っているのは、AI を利用する者としての責任と判断は捨ててはいけないということ。
終末論の議論がどう決着するかは、自分には分からない。 実際に各社が求める規制が正しく適用されて、人間へのリスクを減らすことができるかもしれないが、まだ規制が生まれる気配すらない。
分からないからこそ、目の前のAIとどう向き合うかという実践と検証を、これからも地道に積み重ねていくつもり。
自分としては、AI の利用者として、すべてを安易に任せることなく、自身の求めるものを手伝ってくれる優秀な相棒として利用していければと思う。
この取り組みのスタート宣言はこちら → AIが来て、ひとりスタートアップが変わった。
前回のノウハウはこちら。→ LPを作るだけでは人は来ない。集客の「探す」もAIに任せ始めた。
作っているサービスはこちらにまとめています。→ showcase.p1st.app
Xで毎日発信しています。→ @d_sea