AIの現在と未来シリーズ：人工汎用知能

Steve Conway, Intersect360 Research　　オリジナル記事「AI Today and Tomorrow Series: Artificial General Intelligence」

AIに関する読者の質問に応えるため、HPCwireの姉妹サイトであるBigDATAwireから、AIに関するコラムの執筆を依頼された。AIは、世界中のHPCコミュニティやその他の分野でも関心と懸念を集めているトピックである。紹介コラムは1月に掲載されている。紹介コラムでも述べたように、このシリーズは決定的なものではない。HPC-AIコミュニティが検討するための、AIに関する現在のさまざまな情報や意見を提示することが目的である。AIに関する最終的な見解を持っている人はいないため、steve@intersect360.com宛てにコメントや提案も歓迎する。

AIの進化段階

私は、このコラムを人工汎用知能という野心的な目標に捧げることで、早い段階でAIを相対化するのが理にかなっていると考えた。AGIは一般的に、3段階のAI進化の中間段階と見なされている。

	(Hafakot/Shutterstock)

• 現在の狭義の、つまり弱い段階では、AIはすでに非常に有用であるが、その目標を定義する上で人間に大きく依存している。例えば、「AIにおける現実的な合成データの現状に関する10ページの報告書を作成する」や「このMRIをスキャンして早期乳がんの兆候である微小石灰化を特定し、人間の観察者向けに画像の解像度を追加する」などである。AI市場の主流は、SiriやAlexaから診断画像の読解に至るまで、人間の単独の能力を模倣する狭いタスクに初期のAIを大々的に活用している。視覚や聴覚の理解など、特に人間離れした能力を要するものだ。しかし、その幅広い有用性にもかかわらず、狭いAIは一般的に、訓練されていないことはできない。狭いAIは、LLMまたは非LLMモデルを使用して段階的に人間の定義した目標を達成する「パス問題」にほぼ限定される。
• AGIは第二段階であり、いわゆる「強いAI」の幕開けとなる。この段階では、機械はより自立的に「思考」し、行動することができる。AGIは、いわゆる洞察問題への取り組みを開始することができる。この問題では、人間が目標を定義できない、あるいは定義する意思がない場合、AIマシンは訓練モデルの限界を超えて、革新的な、あるいは画期的なソリューションを追求する。この段階では、AIマシンは多才な経験学習者であり、医療や運転状況における生死にかかわる判断など、リアルタイムでの難しい意思決定を任せることができる。
• 第3段階の「超知能」では、AIデバイスが人間の思考の限界を超えることができるようになる、と主張する人もいる。これは、コンピューターやその他のAIデバイスが、もはや人間を必要としないと判断し、HMI（ヒューマン・マシン・インターフェース）を遮断した場合に、本当に恐ろしい事態となる可能性がある。しかし、もし超知能が実現するとすれば、それはおそらくずっと未来のことだろう。

AGIは実現するのか？

ほとんどの人は、AGIはまだ実現していないと同意するだろう。その幅広い適用可能性にもかかわらず、現在の生成AIは弱いAIの段階にとどまっている。数年前、私は世界中の50人以上のAI専門家を対象に、AGIがいつ実現するのかを尋ねる調査を主導した。AGIが実現すると考えている大多数の人（そう考えない人もいた）は、平均して87年かかると答えた。最近の生成AIの進歩により平均的な予測期間は短縮されると期待しているが、今日、我々が話をしたAIのリーダーのほとんどは、今後20年以内にAGIが実現するとは考えていない。

技術的な課題ではないものの、チューリングテストは便利な代替案ではあるが、AGIの定義について強いコンセンサスが存在しないという問題がある。実際、知性（人間またはその他の生物）の定義についても強いコンセンサスが存在しない。人間や他の生物がどのように思考するのかについては、まだ十分に解明されていない。したがって、多くの人が指摘しているように、AGIの目標は、通常は人間にのみ許されることを行う思考機械を創り出すことであるべきであり、その機械が人間と同じ方法でそれを行う必要があるとは規定しない、と指摘することは有益であろう。

AGIへの道におけるその他の課題

世界的なHPCコミュニティにおけるAIの高度な実践を進める研究者たちのおかげで、状況は確実に前進しているが、取り組むべき重要な課題も存在する。その中には、多層ニューラルネットワークの動作を説明可能かつ信頼性の高いものにする（ただし、説明可能性の明確な定義はまだ確立されていない）、一部の分野（例えば、医療における匿名化され、HIPAAに準拠した患者データ）で使用可能な高品質データの深刻な不足に対処するための現実的な合成データの入手可能性を高める、複数の人間の感覚を同時に模倣できるマルチモーダルAIを進歩させる、といった課題が含まれる。

AGIと心身問題

(zapomicron/Shutterstock)

AGIの実現に必要なものに関する難解な学説は、プラトン以来の哲学者たちを悩ませてきた心身問題を反映している。デカルトが主張したように心と体は別物なのか、それともそうではないのか？

一方の極端な立場には、いわゆる計算論者がおり、ニューラルネットワークから人間の大脳や感覚器の構造を詳細に再現するなど、継続的な技術進歩のみでAGIの達成は十分可能だと考えている。継続的な進歩には、AIデバイスが自然界を直接体験することを可能にする高度なセンサーの開発や、人間のように論理を超えて日常的な状況に対処し、ほとんどの場合で何となくうまくいくような素早い解決策を見つけるヒューリスティクス（発見的）な手法の追加が必要になるかもしれない。

極端な計算論者は、これらのデジタル複製が十分に詳細であれば、人間と同じ範囲の感情、すなわち、幸福、悲しみ、フラストレーションなど、その他の感情を経験するだろうと主張している。形は機能に等しい。いずれにしても、これらの人々は、正しいコンポーネントが正しい方法で組み立てられれば、AGIは自然に生まれるだろうと考えている。心は物理的な世界とは別のものではない、というのが彼らの主張だ。

当然のことながら、AGIへの道筋については異なる考え方もある。デカルトの伝統を受け継ぐ人々は、心は物理的なものとは別個に存在すると考え、AIデバイスに心や意識を利用することは極めて困難であり、おそらく不可能であると考えている。また、いわゆる汎心論者の一部は、心は宇宙の生得的な特性であり、個々の要素にまで及ぶものであり、その理由からAGIにも適用できるはずだと考えている。

最後に

AGIについての簡単な考察はこれまで。AGIを巡る哲学的な議論は、今日のAIの日常的な世界とはかけ離れているが、AGIがまだすぐそこにあるわけではないことを裏付けるものだ。そして、その野心的な段階に到達するには、思いがけない展開が必要になるかもしれない。繰り返しになるが、ご意見はsteve@intersect360.comまでお寄せいただきたい。

BigDATAwireの寄稿編集者であるSteve Conwayの本業は、Intersect360 Researchのシニアアナリストである。Conwayは10年以上にわたりAIの進展を詳細に追跡し、世界中の政府機関におけるHPCおよびAI研究を主導し、ジョンズ・ホプキンス大学高等物理学研究所（JHUAPL）と共同で米国軍上層部のためのAI入門書を執筆し、AIおよび関連トピックについて頻繁に講演を行っている。