人工知能の研究者たちは、これまで人間の脳でしか見られなかったニューロンを、AIシステムの中で発見しました。
マルチモーダル・ニューロンの発見
イーロン・マスクが設立したスタートアップ企業であるOpenAIは、最先端のニューラルネットワークの複雑な内部構造の中に、神経科学者が「マルチモーダル・ニューロン」と呼ぶものを発見しました。
この発見は、CLIPと呼ばれる汎用ビジョンシステムを用いて行われました。
CLIPは、複雑なデータセットを用いて学習を行い、漫画や彫像などの抽象的な文脈の中で物体や人を認識することができます。
OpenAIのブログでは、「CLIPでは、文字通りに提示されたものであれ、象徴的に提示されたものであれ、概念的に提示されたものであれ、同じ概念に反応するニューロンを発見しました」と説明しています。
CLIPにおけるマルチモーダル・ニューロンの発見は、合成視覚システムと自然視覚システムに共通するメカニズムである「抽象化」の手がかりとなります。
マルチモーダル・ニューロンは、2005年に人間の脳で初めて発見されました。
科学者たちは、1つのニューロンが、感覚情報を通じて提供される抽象的な概念のクラスターを通じて、共通のテーマを識別できることに気付いたのです。
例えば、何百万ものニューロンが協力して有名人の写真を識別するのではなく、たった1つのニューロンがそれらを認識するのです。
つまり、人間の脳には、その人が知っているすべての家族、友人、有名人を担当する個々のニューロンがあり、そのニューロンは、写真、絵、名前のイメージには反応するが、他の名前には反応しないということである。
OpenAIの研究者たちは、生物学的な対応物と同様に、「感情、動物、有名人に反応する」人工ニューロンを発見しました。
スパイダーマン・ニューロン」と名付けられたそのようなニューロンは、2005年の研究で最初に概説されたマルチモーダル・ニューロンに「驚くほど似ている」という。
このニューロンは、「クモの画像、『クモ』という文字の画像、そしてコミック本のキャラクターであるスパイダーマンの着ぐるみやイラストに反応する」と研究チームは書いている。
ニューラルネットワークは、高度な人工知能システムの開発に大きな可能性を秘めており、すでに顔認識、デジタルアシスタント、自動運転車などの分野で画期的な成果を上げている。
データを処理するために、生物学的な神経システムの構造からヒントを得た人工的なニューロンまたはノードで構成されています。
しかし、このような強力なテクノロジーの欠点は、なぜ特定の判断を下すのか、どのようにして特定の結論に至るのかを知ることが困難なことです。
例えば、膨大なデータセットを使って学習を行うため、特定のカテゴリーに対して性差別や人種差別的な連想をしてしまうなど、望ましくない結果を招く可能性があります。
OpenAIのモデルは、インターネット上の厳選されたサブセットで学習されていますが、それでも特定のバイアスや関連性を受け継いでいるため、商業的な用途で使用した場合には有害となる可能性があります。
このようなニューラルネットワークを理解するために研究者たちが開発したツールは、将来発生する可能性のある問題を先取りするために、他の研究者たちの役に立つでしょう。