科学者たちは現在、完全に人工知能によって生成されたウイルスの遺伝子配列を作成しました。この進展により、AI支援の生物学は、単にタンパク質構造を予測したり、薬候補をスクリーニングするだけでなく、繁殖可能なウイルスを直接設計する段階に進みました。
研究の具体的な内容は、大規模な生成AIモデルを利用して、ゲノムデータベースに基づいて新しいウイルス配列を作成することです。研究者たちはその後、標準的なDNA合成方法を使用してこれらの配列を製作し、生成されたウイルスが複製できることを確認しました。この研究で製造されたウイルスは危険とは見なされていません。しかし、多くの観察者はこの方法自体に懸念を抱いており、理論的にはより危険なウイルスを創造するために使用される可能性があるからです。
ここで、生成モデルの動作原理は大規模言語モデルに似ていますが、予測するのはヌクレオチド塩基であり、単語ではありません。多くの既知のウイルスゲノムを研究することで、これらのモデルはパターンを学習し、実際のウイルスに似た行動をする新しい配列を創造することができます。これにより、標準的な生物監視ツールはこれらのウイルスを検出するのが難しくなります。なぜなら、これらのツールは主に既知の病原体の一致を探しているからです。
生物安全性緊張局勢の影響
主な懸念は、この技術が善用される可能性がある一方で、悪用される可能性もあるということです。ワクチン設計を加速する生成方法は、新しい生物製剤を創造することを容易にするかもしれません。過去には、危険な病原体を製造するにはウイルス学、微生物学、細胞培養などのかなりの専門知識が必要でした。しかし、現在ではAI支援の設計により、多くの専門知識が単にプロンプトを与えたり注文を出すことで代替可能です。
現在のDNA合成規則は、既知の危険な病原体やデータベースにリストされている配列を捕捉するために設計されています。理論的には、既知の病原体と一致しないコンピュータ生成の配列は、これらのチェックを通過する可能性があります。生物安全の専門家は何年も前からこの欠陥を指摘しており、今やAI生成のウイルスが製造されているため、この懸念はさらに現実味を帯びています。
さらに、研究を発表することに関する問題も生じています。科学論文で詳細な方法を共有することは、他者が結果を検証し進展を促進するのに役立ちますが、同時に不適切な使用のための技術ガイドラインを提供する可能性もあります。オープンサイエンスと安全性の間でバランスを取ることは容易ではなく、異なる機関はこの課題に対処するためにそれぞれ異なるアプローチを採用しています。
ガバナンスの現状の課題
現在の安全システム、例えば機関の生物安全委員会、アメリカの選択的病原体プログラム、特定の生物材料の輸出管理は、AI生成の配列に対して設計されていません。一部の政策専門家は、商業的な遺伝子合成会社にAIスクリーニングを義務付けるべきだと提案していますが、これらの会社はすでにいくつかの配列に基づくチェックを行っています。しかし、既知の一致がないコンピュータ生成の配列をスクリーニングすることは技術的に困難であり、業界ではまだ標準化されていません。
国際的な調整も存在しません。生物兵器禁止条約には、遵守を検証するための正式な方法がありません。また、AIと生物学の研究を監査する権限を持つ国際機関も存在せず、これは国際原子力機関が核計画に対して行っている作業に類似しています。
研究コミュニティは、この問題にどのように対処するかについて意見が分かれています。一部のウイルス学者は、可能性のある状況に対してオープンでいることが重要であり、そうすれば政策が技術の進展に追いつくことができると考えています。別の一方では、詳細な方法はこの時点で公開されるべきではないと考えています。現在最も差し迫った問題は、遺伝子合成会社、資金提供機関、規制機関がこの技術が普及する前に新しいスクリーニング基準に合意できるかどうかです。