まとめ： 膨大な情報を圧縮するゲノムの能力にヒントを得た新しい AI アルゴリズムは、脳機能と潜在的な技術応用についての洞察を提供します。研究者らは、このアルゴリズムが画像認識やビデオ ゲームなどのタスクを、完全に訓練された AI ネットワークとほぼ同じくらい効果的に実行することを発見しました。
このモデルは、ゲノムが限られたデータで複雑な動作をコード化する方法を模倣することにより、効率的な情報圧縮の進化上の利点を強調します。この調査結果は、スマートフォンなどの小型デバイス上で実行できる高度で軽量な AI システムを開発するための新たな道筋を示唆しています。
重要な事実:
- AI アルゴリズムはゲノムなどの情報を圧縮し、高効率を実現します。
- 完全にトレーニングされた最先端の AI とほぼ同じくらい効果的にタスクを実行します。
- 潜在的なアプリケーションには、スマートフォンなどのデバイス上で大規模な AI モデルを実行することが含まれます。
ソース： CSHL
ある意味、私たち一人ひとりが行動の準備をして人生をスタートします。多くの動物は、生まれてすぐに驚くべき偉業を成し遂げます。蜘蛛は巣を張ります。クジラが泳ぎます。しかし、こうした先天的な能力はどこから来るのでしょうか?
脳には複雑な行動を制御するために必要な何兆もの神経接続が含まれているため、明らかに重要な役割を果たしています。ただし、ゲノムにはその情報のほんの一部しか格納できるスペースがありません。
この矛盾は何十年にもわたって科学者を悩ませてきました。現在、コールド スプリング ハーバー研究所 (CSHL) のアンソニー ザドール教授とアレクセイ コウラコフ教授は、人工知能を使用した潜在的な解決策を考案しました。
ザドルは最初にこの問題に遭遇したとき、この問題に新たな解釈を加えました。 「ゲノムの限られた能力こそが私たちを賢くしているとしたらどうなるでしょうか?」彼は疑問に思う。 「それがバグではなく機能だったらどうなるでしょうか?」
言い換えれば、ゲノムの制限により適応が強制されるため、私たちは賢く行動し、素早く学習できるのかもしれません。これは大きく大胆なアイデアですが、実証するのは困難です。結局のところ、実験室での実験を数十億年の進化にまたがって拡張することはできません。そこで、ゲノムボトルネックアルゴリズムのアイデアが登場します。
AI では、世代は数十年を超えません。ボタンを押すだけで新しいモデルが生まれます。 Zador、Koulakov、CSHL のポスドクである Divyansha Lachi と Sergey Shuvaev は、私たちのゲノムが脳の機能回路を形成するために必要な情報を圧縮するのと同じように、大量のデータをきちんとしたパッケージにまとめるコンピューター アルゴリズムの開発に着手しました。
次に、複数のトレーニング ラウンドを経た AI ネットワークに対してこのアルゴリズムをテストします。驚くべきことに、トレーニングされていない新しいアルゴリズムが、画像認識などのタスクを最先端の AI とほぼ同じくらい効果的に実行できることがわかりました。彼らのアルゴリズムは、次のようなビデオ ゲームにも適用されます。 スペースインベーダー。まるで遊び方を本能的に理解しているかのようです。
これは、AI が近いうちに私たちの自然な能力を再現するようになるという意味でしょうか?
「私たちはまだそのレベルに達していません」とコウラコフ氏は言う。 「脳の皮質構造は、約 280 テラバイトの情報、つまり 32 年分の高解像度ビデオに相当する情報を収容できます。私たちのゲノムは約 1 時間に対応します。これは、400,000 倍の圧縮テクノロジーではまだ匹敵できないことを意味します。」
それにもかかわらず、このアルゴリズムは、これまで AI では見られなかった圧縮レベルを可能にします。この機能はテクノロジー分野で印象的な用途をもたらす可能性があります。この研究の筆頭著者であるシュバエフ氏は次のように説明しています。「たとえば、大規模な言語モデルを携帯電話で実行したい場合、(アルゴリズムを) 使用できる 1 つの方法は、モデルをハードウェア上でレイヤーごとに展開することです。」
このようなアプリケーションは、実行時間が短縮され、より進化した AI を意味する可能性があります。そして考えてみれば、ここに到達するまでに進化には 35 億年しかかかりませんでした。
このAI・遺伝学・進化研究ニュースについて
著者： サミュエル・ダイアモンド
ソース： CSHL
接触： サミュエル・ダイアモンド – CSHL
画像： 画像は Neuroscience News にクレジットされています
独自の研究: オープンアクセス。
「ゲノムのボトルネックを介した生来の能力のコード化アンソニー・ザドールら著。 PNAS
抽象的な
ゲノムのボトルネックを介した生来の能力のコード化
動物は、ゲノムにコード化された神経回路から生じる広範な先天的行動能力を持って生まれます。
しかし、ゲノムの情報容量は、任意の脳回路の接続性を特定するのに必要な情報容量よりも桁違いに小さいため、回路形成をエンコードするルールは、ある世代から次の世代に受け継がれる際に「ゲノムのボトルネック」を通過する必要があることを示しています。 。
ここでは、重み行列の非可逆圧縮という観点から、人工ニューラル ネットワークのコンテキストにおける生来の行動能力の問題を定式化します。
いくつかの標準的なネットワーク アーキテクチャは数桁圧縮できるため、完全にトレーニングされたネットワークに近い事前トレーニング パフォーマンスが得られることがわかりました。
興味深いことに、単純ではなく複雑なテスト問題の場合、ゲノム ボトルネック アルゴリズムは回路の重要な特徴も捕捉し、新しいタスクやデータセットへの転移学習の強化につながります。
私たちの結果は、ゲノムボトルネックを介して神経回路を圧縮することが正則化機能として機能し、重要な現実世界のタスクに容易に適応できる単純な回路を選択する進化を可能にすることを示唆しています。
ゲノムのボトルネックは、AI のアルゴリズムを設計する際に、先天的事前分布が従来の学習アプローチをどのように補完できるかを示唆しています。
