生成的AI能力が向上するにつれて、「AIによる生物兵器の災害」の懸念が最近明らかに高まっています。これまでに、多くのAI企業の責任者が合成DNA製造の規制強化を呼びかけ、スタンフォード大学とArc研究所の研究者もAIが新しいウイルスのゲノムを設計できることを示しました。これらの進展により、「AIによる致命的病原体の製造」に関する議論がさらに広がっています。
しかし、多くの科学者は、AIが生物兵器に関して実際の脅威は現在は限られていると考えています。研究者たちは、AIは情報の検索と整理を加速するツールに過ぎず、生物兵器の研究開発の重要な難点を根本的に変えるものではないと指摘しています。実際のハードルは依然として実験段階にあり、遺伝子断片の取得、ゼロからの完全なゲノムの組み立て、人間に感染し群衆の中で伝播できるかの検証、さらには必要な原材料、設備、専門知識が求められます。
AIによる生物兵器研究開発の脅威は依然として限られている
実験室の実行レベルから見ると、現段階ではAIも関連プロセスを独立して完了することは困難です。バイオテクノロジー企業Ginkgo Bioworksの責任者は、AIが実験プロセスに参加できたとしても、人間が設備、試薬、操作のサポートを提供する必要があり、スタッフの審査自体が重要な制限であると述べています。一部の専門家は、将来的により強力な汎用AIが登場しても、人間の研究者はワクチンの開発や防止システムを通じて対処できると考えています。
また、短期的に警戒すべきはAIが独立して生物攻撃を発動することではなく、むしろ不法分子によって利用される可能性であると指摘する意見もあります。関連する専門家は、完全に自律した実験室はまだ普及していないが、AIは情報の統合、タスクの分解、実行の支援において一部のハードルを下げる可能性があるため、生物テロ活動に利用される可能性を無視してはいけないと考えています。別の研究者は、生物兵器自体が効率的な攻撃手段ではなく、その難点は精密さ、規模化された製造、伝播の制御にあるため、実際の操作の複雑さは従来の攻撃手段よりも高いことが多いと指摘しています。