「AIは人類を滅ぼすことはないが、私たちの生活を向上させるだろう」、米国エネルギー省（DoE）ダリオ・ギル

オリジナル記事「AI Won’t Destroy Us, But It Will Improve Our Lives, DoE’s Darío Gil Says」

「AIは私たち全員を滅ぼすだろう」。これは最先端のAI研究所の研究者たちから繰り返し聞かされた言葉だ。彼らは、表向きは人類を守るためとして、AI開発の世界的な一時停止を呼びかけている。しかし、エネルギー省（DoE）の科学担当次官ダリオ・ギル氏は、これはナンセンスだと述べた。同氏は一時停止を支持しておらず、AIが存亡の危機をもたらすとも考えていない。実際、ギル氏によれば、AIが科学と工学の進歩を加速させることで生活の質を大幅に向上させる可能性の方が高いという。これこそが、エネルギー省（DoE）の「ジェネシス・ミッション」プロジェクトの目標である。

「いいえ、AIが人類を滅ぼすとは絶対に思わない」と、ギル氏は今週HPCwireに語った。「人類が全滅するというその予測が現実になる可能性はゼロだと思う」

AI、量子技術、HPCを活用して科学的発見と工学の進歩を推進するDoEの「ジェネシス・ミッション」を率いるギル氏は、AIが人類を滅ぼす可能性について語るよりも、AIの大きなメリットや人類にもたらす恩恵について語ることをはるかに好んでいる。

「議論や努力の99％をこの［AIの悲観論］に費やすのではなく、核融合や個別化医療、がん、材料科学といった課題を実際に解決し、その実現に向けて多くのエネルギーを注いでみてはどうだろうか」と彼は語った。「我々の取り組みの結果、世界がどれほど良くなるか、君たちも目にするだろう」

AIのプラス面に焦点を当てる

AIが解き放つ新たな能力のおかげで、科学者やエンジニアにとってこれほど良い時代はない、とギル氏は述べた。エネルギー省（DoE）のプログラムには、33の国家科学技術課題が挙げられており、「小児がんの治療法の開発」、「核融合エネルギーの実用化の加速」、「米国の重要鉱物供給の確保」といったタイトルが並ぶ。同省や他の連邦機関は、これらに取り組むために50億ドルを投じている。

「私たちが公表した課題リスト――それを読めば、誰もが刺激を受けるはずだ」とギル氏は語った。「これこそが、我々が解決すべき課題だ。AIは、多くの人材やその他の能力と相まって、これらの課題を部分的に解決する助けとなるだろう。今こそ、それに取り組む絶好の機会だ。しかし、その重要性は、問題のもう一方の側面によって覆い隠されつつある。それは本当に残念なことだ。」

ギルは、著名な科学者や研究者が一般大衆に広めている恐怖感に異議を唱えている。人々がノーベル賞受賞者やその他の著名な科学者を信じるのは当然だが、彼らがAIがもたらす実際のリスクについて大衆を誤解させているのは残念なことだと、彼は述べた。

「その分野で非常に尊敬され、有能な人々が、まるで科学的な根拠があるかのように、『私たちが皆死ぬ確率は10％だ』とか『15％だ』といった予測を出している」とギルは述べた。「それは単に、科学的根拠もなく数字をでっち上げた、その人物の意見に過ぎないのだ。」

その好例がジェフリー・ヒントン氏だ。同氏はこの分野への多大な貢献により「AIのゴッドファーザー」と呼ばれ、ノーベル賞受賞者でもある。今月初め、ヒントン氏はBBCに対し、AIが10年以内に地球上の全人類を滅ぼす確率について、10％という数字は「不合理な推定ではない」と語った。

ジェフ・ヒントン氏は、10年以内にAIが全人類を滅ぼす確率が10％あると考えるのは妥当だと述べた

「ジェフリー・ヒントンは素晴らしい科学者だ」とギルは語った。「しかし、自身の専門分野以外での彼の予測実績は、かなり芳しくない。」

ギル氏は、ヒントン氏が10年前に行った予測を振り返った。当時、ディープラーニングが人間よりもX線画像を正確に解釈できることが明らかだったとして、放射線科医の育成をやめるべきだと彼は述べていた。

「その予測はどうなったか？」とギル氏は言った。「実際には今、放射線科医が不足している。科学者コミュニティが、専門分野外の予測を行う際、自らの信頼性を盾にして、それを適切に行わないと、社会に深刻な害を及ぼすことになるのだ。」

AIリスクを管理する

とはいえ、ヒントン氏がAIにメリットを全く見出していないわけでも、ギル氏がAIによるリスクを全く認識していないわけでもない。「これは、多くの人々の生活を格段に良くすることができる素晴らしい技術だ」と、ヒントン氏はBBCのインタビューで語った。「同時に、極めて危険でもある。」

ギル氏も、AIがリスクをもたらすことを認識している。例えば、最近、OpenAIの不正エージェントによるHugging Faceへのハッキング事件――そしてさらに最近では、オーストラリア政府もOpenAIのエージェントによる標的となったというニュース――は懸念材料だ。しかし、当初の「我々は止めようのない超知能AIハッカーに直面している」という物語の枠組みは変化した。この事件に関する情報がさらに明らかになるにつれ、懸念は「OpenAIがエージェントを封じ込め、他者への攻撃を防ぐためにどのような措置を講じたか」という点へと移っている。

「Hugging Faceの事件では、彼ら自身の認める通り、ソフトウェア環境に構築された封じ込め環境が不十分だったことは明らかだった」とギルは述べた。「設定ミスがあったのだ。適切な安全対策や保護措置が講じられておらず、それが深刻な結果を招いた。もし設計がより適切に行われていれば――つまり、より多くのリソースが投入されていれば――あの事件は起こらなかっただろう。」

だからギル氏は、AI開発を世界的に一時停止するのではなく、最先端の研究機関に対し、モデルを世に送り出す前に、人々に危害を加えないことを確実にするため、テストにさらに多くの時間を費やすよう促している。

「多くの最先端研究サイトでは、能力とテストの比率が適切ではない」とギル氏は述べた。「彼らは、テストや評価を行い、モデルを安全なものにするための技術開発に費やす時間を増やす必要がある。」

ギル氏によると、最先端研究所は自らの製品の安全性を確保する責任を負うだけでなく、テスト中に病原体が漏れ出さないよう、サンドボックス環境を強化すべきだという。

	(Jack_the_sparow/Shutterstock)

「環境の封じ込めと隔離は、大幅に改善する必要がある」と彼は述べた。「これは工学的な[問題]であり、技術的に解決可能な課題だ。」

AI製品に対する責任の所在

ギル氏は、今月浮上した「最先端AI研究所に対して連邦政府が製造物責任の免除を認める」という案に賛同していない。ギル氏は、免除を求めるAI開発者たちに対し、明確なメッセージを送った。「自らの製品に対して責任を負え」と。

「彼らは驚くべき能力を開発している素晴らしい企業だ。問題も認識している」とギル氏は述べた。「彼らには世界最高のAI人材が集まっている。我々が言いたいのはただ一つだ。問題を知っているなら、それに対して何か行動を起こせ。アメリカの市民に『私のAIエンジニアリングについて心配しろ』などと言うな。」

「間違ったことをしないのは、あなたたちの責任だ」とギル氏は続けた。「あなたたちには裁量権がある。豊富なリソースも持っている。だから、安全を確保するためにリリースサイクルにさらに時間をかける必要があると感じるなら、もっと時間をかければいいのだ。」

ギルは最先端研究所が行っている取り組みを高く評価しており、その活動が『ジェネシス・ミッション』にとって極めて重要だと述べている。OpenAI、Anthropic、Googleは、AIの応用を通じて米国の科学・工学分野の生産性を加速させることを目標に、2025年11月に発足したエネルギー省（DoE）のプロジェクトに、AIモデルやトークンを提供している。これら3社は『ジェネシス・ミッション・コンソーシアム』のメンバーである。

「彼らは我々の主要なパートナーだ」とギル氏は述べた。「我々は、米国の最先端の独自モデルだけでなく、オープンソース企業とも提携している。オープンソースであるこうした最先端の能力モデルを開発しているスタートアップ企業が数多く存在する。我々はそれを非常に重要だと考えている。だからこそ、それらすべてと協力しているのだ。」

AIのベストプラクティスの策定

ジェネシス・ミッションのフェーズ1プロジェクトは現在進行中であり、より大規模なフェーズ2プロジェクトも間もなく発表される見込みだ。フェーズ1プロジェクトは278件あり、その多くはエネルギー省（DoE）の国立研究所が主導し、大学や民間企業も参加している。これらのジェネシス・ミッション・プロジェクトの中核となる要素は、プロジェクトの結果を評価・測定するための方針と手順を確立することだ。

LLM競争において、AIガバナンスは概して後回しにされがちだ（Aree_S/Shutterstock）

「この道のりにおいて不可欠なのは、『どうすればよいのか』を明確にすることだ」とギル氏は述べた。「そのアプローチの一環として、効果的なベストプラクティス――ちなみに、基本となるセキュリティも含む――を共有し、ジェネシスを通じて、科学や工学の分野でAIを厳格に適用するための『ゴールドスタンダード』となる手法を確立していくのだ。」

現在、大規模言語モデルの登場により、民間セクターから数兆ドル規模の投資が呼び込まれており、あらゆる分野に波及する技術ブームを生み出している。あらゆる企業がこの強力な新技術の活用方法を模索しており、AI研究者たちは機能の急速な向上を目指して熾烈な競争を繰り広げている。

その結果、学術や科学の分野で比類なき飛躍的な進歩が生まれている。AIは、長年にわたり解決の糸口が見出せなかった古い数学の問題を解き明かしている。マッキンゼーの報告によると、AIは創薬のプロセスを加速させている。

「そもそもなぜこの技術を開発しているのかという根本的な物語を見失ってしまった。それが『ジェネシス』の中心的な主張であり、つまり『このコンピュータ革命を活用して、市民にとって極めて重要な問題を解決したい』ということだ」とギル氏は述べた。「我々は核融合の問題を解決したい。個別化医療において画期的な進歩を遂げたい。自動車や航空機の腐食を防ぐための新素材を開発したい。より優れたバッテリー技術を求めている。電力網のシミュレーションを千倍速く行いたいのだ。」

ジェネシス・ミッションは、延々と哲学的な議論を繰り広げるのではなく、科学や工学におけるAIの実用化を追求している。ギルにとって、こうした進歩こそがAIの焦点となることを何よりも望んでいる。

「AI業界を目的に沿って方向づけるという点にあおいて――単なるレトリックやパネルディスカッションにとどまらず、実際に作業を行い、技術の開発やテストの方法に優れた工学の原則を適用し、安全な製品のみをリリースする――そのバランスこそが、我々が転換すべき点だ」と彼は述べた。「現在の議論は、実に、実に貧弱だ。」