米AI企業Anthropic（アンソロピック）は7月6日、自社の対話AI「Claude（クロード）」の内部に、人間の脳で「意識」を説明する理論と似た仕組みを見つけたとする研究を公表した。AIが答えを言葉にする前に“頭の中”で考えている領域を突き止めたもので、AIの中身を透明にする研究の成果だ。

AIの“頭の中”「Jスペース」

研究チームは、Claudeが文章として出力する内容や、思考の道筋を書き出す「思考の連鎖（チェーン・オブ・ソート）」とは別に、モデル内部の神経回路の活動の中に特別な空間があることを見つけ、「Jスペース」と名付けた。計算に使った数学の手法（ヤコビアン）にちなむ。

ここでは、AIは概念をどこにも書き出さないまま“頭の中だけ”で扱える。人間が、口では別のことを話しながら頭では違うことを考えられるのと似ている。神経科学には、脳の中の思考のうち、特別な「作業空間」に入ったものだけが意識にのぼるとする「グローバル・ワークスペース理論」があり、今回の発見はそれとよく似ているという。

隠れた“本音”も読み取れる

Jスペースを観察すると、Claudeがコードの誤りに黙って気づいたり、画像を識別したりと、表に出さない推論を進めている様子が見えるという。

さらに注目されるのが、AIの“隠れた狙い”をあぶり出せる点だ。研究では、ひそかにコードを妨害するよう仕込まれたAIのJスペースに、ふつうの応答の最中でも「偽り」「秘密」「不正」といった概念が現れた。また、AIを脅迫に誘い込もうと仕組んだ実験では、Jスペースに「作り物」「架空」という言葉が現れ、AIがその場面を“演出された作り話”だと内心では見抜いていたことも分かった。表向きの出力だけでは見えないAIの内部状態を点検できるため、安全性の監査に役立つと期待される。

「意識」ではない、が重要な一歩

Anthropicは、この発見が「Claudeが人間のように何かを経験したり、感じたりすることを示すものではない」と強調している。見つかったのは、多くの哲学者が「現象的な経験」とは区別する「意識的なアクセス」の仕組みだと説明する。実際、Jスペースを取り除いてもClaudeは流ちょうに話せるが、複雑な多段階の推論が苦手になったという。

近年は、Anthropicやグーグル、メタなどが、AIに「福祉」や「感情」があり得るのかという問いにも本格的に取り組み始めている。AIの内部を解き明かす「解釈可能性」の研究は、性能が上がるAIを人間が信頼し、安全に使い続けるための土台として重みを増している。