爆発的记忆想起を実现するニューラルネットワークを开発―曲がった统计多様体がもたらす新理论―

In other languages
ターゲット
公开日

 物理?生命?社会といった复雑なシステムでは、构成要素が同时に関係し合う高次相互作用が、创発的な変化や多様な振る舞いを生み出すうえで本质的な役割を果たしていることが明らかになってきています。こうした高次相互作用は脳のような生物のネットワークにおける情报の表现や、人工ニューラルネットワークの性能向上にも関与していると考えられています。しかし、それらを一贯した原理に基づいて扱える理论的枠组みは、これまで十分に整备されていませんでした。

 島崎秀昭 情报学研究科准教授(兼:北海道大学客員准教授)、Miguel Aguilera スペイン?バスク応用数学センター(Basque Center for Applied Mathematics)研究員、Pablo A. Morales 株式会社アラヤ主任、Fernando E. Rosas 英国サセックス大学(University of Sussex)助教らによる国際共同研究チームは、統計物理学の最大エントロピー原理を拡張し、曲がった統計多様体上で定義される新しいニューラルネットワークモデル「Curved Neural Networks(曲がったニューラルネットワーク)」を提案しました。このモデルはRényi(レーニ)エントロピーに基づく変形指数分布を用いることで、従来のペア相互作用のみを記述したネットワークでは実現できなかった高次相互作用を自然に組み込むことができる新しい枠組みです。

 本研究ではこの新しい曲がったニューラルネットワークを通じて、以下の3つの重要な现象を発见しました。(1)记忆想起状态における従来と异なる爆発的相転移の発现、(2)记忆検索を飞跃的に加速する自己调节アニーリング机构、(3)记忆容量とロバスト性の柔软な制御が可能であることの発见、です。これらの発见は记忆の表现や検索の効率を飞跃的に向上させる新たな仕组みを提供するものであり、今后の人工知能技术の発展に寄与することが期待されます。

 本研究成果は、2025年7月24日に、国際学術誌「Nature Communications」にオンライン掲載されました。

文章を入れてください
曲がったニューラルネットで遊ぶ子どもたちで爆発的記憶想起を表現したイメージ図 (Illust. Robin Hoshino)
研究者のコメント
「本研究が切り開く多様な可能性に私たちは大きな期待を寄せています。生物の神経細胞に見られる高次の統計的特徴を捉える新しいモデリング手法は、脳の仕組みの理解をさらに深めることにつながります。画像や言語の生成AIに用いられる人工ニューラルアーキテクチャの情報符号化能力の向上にも新たなアプローチをもたらします。本フレームワークは自然知能と人工知能の両分野における情報処理の本質を探る上で、有力な手がかりとなると考えています。」(Miguel Aguilera)

 「この論文は複雑系における高次相互作用(HOIs)の影響を理解するためのエレガントなアプローチを提示しています。特に印象的なのは、一般化された最大エントロピー原理がモデルパラメータの指数関数的な増加なしにHOIsを効果的に捕えることで、魅力的な現象の研究を可能にしている点です。これにより、爆発的な秩序-無秩序相転移や多安定性を示すシステムを研究できます。これらはハードコードされたものではなく、記憶空間を構築する方法から生じるものです。」(Pablo A. Morales)

「私は特に、高次相互作用を持つ系から爆発的相転移を引き起こす基本的メカニズムとして、自己調節型のアニーリングが発見されたことに興奮しています。このメカニズムはよく知られた焼きなまし法に似ていますが、エネルギーと温度の間に独特のフィードバックが存在し、系が自己制御することが特徴です。フィードバックシステムは生命システムの顕著な特徴であり、人工の神経システムにこのような自己制御メカニズムが現れることを、私は特に魅力的だと感じています。」(Fernando E. Rosas)

「曲がった统计的空间でニューラルネットワークを作り、ニューロンの非线形性や高次相互作用を理论的に扱いたい!――そんなシンプルなアイデアから始まった研究は、この発想に共感する仲间たちとの対话を通じて発展し、记忆想起の予想外のふるまいを明らかにしました。予期せぬ展开を仲间たちと追う时间は刺激的でした。本研究は、记忆の高速想起や适応的制御を可能にする枠组みを提示し、础滨の新たな设计指针を提案するものと考えています。」(岛崎秀昭)

研究者情报
研究者名
島﨑 秀昭
书誌情报

【顿翱滨】

【碍鲍搁贰狈础滨アクセス鲍搁尝】

【书誌情报】
Miguel Aguilera, Pablo A. Morales, Fernando E. Rosas, Hideaki Shimazaki (2025). Explosive neural networks via higher-order interactions in curved statistical manifolds. Nature Communications, 16, 6511.

関连部局