タグ: バイオセキュリティ
- AI
アンソロピック、生命科学の専門家にAIの制限を緩める認定制度 審査を通れば創薬や臨床開発の遮断を解除 監視は「その場で拒否」から「後から検証」へ
米AI企業アンソロピックは9月17日、生命科学の専門家を対象に、生成AI「Claude(クロード)」の安全制限を緩める認定制度「Life Sciences Verification Program(LSVP)」を始めたと発表した。審査を通った組織には、一般提供中のモデルでは拒否される創薬や研究生物学、臨床開発、製造といった業務での利用を認める。同社は生物分野の悪用をAIの最も深刻なリスクの一つと位置づけ、最新世代のモデルで軍民両用になりうる生物学の質問を広く制限してきたが、その結果として正規の研究者まで作業を止められる状態が生じていた。制度では利用枠をチーム単位の「Standard Use」と単一の研究プロジェクトに限る「High-risk Use」の2種類に分け、後者では生命科学の要求を止める安全装置をすべて外す。あわせて、要求のたびに拒否するリアルタイムの遮断から、通したうえで挙動の傾向を後から調べるオフライン監視へ切り替え、LSVPの通信データは30日間の保存を必須とする。すでに数十の組織が先行利用しており、この日から一般の申し込み受け付けを始めた。