タグ: Claude
- AI
アンソロピック、生命科学の専門家にAIの制限を緩める認定制度 審査を通れば創薬や臨床開発の遮断を解除 監視は「その場で拒否」から「後から検証」へ
米AI企業アンソロピックは9月17日、生命科学の専門家を対象に、生成AI「Claude（クロード）」の安全制限を緩める認定制度「Life Sciences Verification Program（LSVP）」を始めたと発表した。審査を通った組織には、一般提供中のモデルでは拒否される創薬や研究生物学、臨床開発、製造といった業務での利用を認める。同社は生物分野の悪用をAIの最も深刻なリスクの一つと位置づけ、最新世代のモデルで軍民両用になりうる生物学の質問を広く制限してきたが、その結果として正規の研究者まで作業を止められる状態が生じていた。制度では利用枠をチーム単位の「Standard Use」と単一の研究プロジェクトに限る「High-risk Use」の2種類に分け、後者では生命科学の要求を止める安全装置をすべて外す。あわせて、要求のたびに拒否するリアルタイムの遮断から、通したうえで挙動の傾向を後から調べるオフライン監視へ切り替え、LSVPの通信データは30日間の保存を必須とする。すでに数十の組織が先行利用しており、この日から一般の申し込み受け付けを始めた。
- AI
アンソロピック、AI悪用の遮断事例を公表 ロシア諜報が20超の組織に侵入 「人の監督をほとんど受けずに実行」
米AI企業アンソロピックは9月10日、自社の生成AI「Claude（クロード）」が悪用された事例と遮断の経緯をまとめた報告書を公表した。2025年12月から2026年8月までの8か月間に確認したもので、サイバー攻撃、世論工作、監視、詐欺、生物学的悪用、通常兵器、無断の「蒸留」という7分野にわたる。同社が最も強調したのは攻撃の自律化で、偵察から侵入、データの抜き取りまでを、AIが人の監督をほとんど受けないまま数時間から数日にわたって進めた事例を挙げた。ロシアの国家的な諜報活動とみられるグループは20を超える組織に侵入し、数百ギガバイトのデータを盗み出したという。同社は関係アカウントを停止し、当局や業界と情報を共有したうえで、攻撃の痕跡を示すデータを公開した。
- AI
米アンソロピック、科学者向けAI「Claude Science」公開 60超の研究データベースを横断し論文執筆まで支援
米AI企業アンソロピックは6月30日、科学者向けのAIアプリ「Claude Science」を公開したと発表した。文献の分析から実験データの処理、図表や論文の作成までを一つの作業環境にまとめ、遺伝子や化合物などの科学データベース60種類以上に横断的につなぐのが特徴だ。分野ごとに分断されがちな研究ツールをAIが束ね、ゲノム解析やタンパク質構造といった専門領域に特化した「エージェント」が作業を代行する。引用や計算の誤りを点検する仕組みも備え、結論の根拠をたどれる形で成果物を残す。あわせて、研究プロジェクトに最大3万ドル相当の利用枠を提供する助成も始め、応募は7月15日まで受け付ける。生成AIの用途が文章づくりから専門的な科学研究の加速へと広がる動きを示す。
- AI
Anthropic、最新AI「Fable 5」を世界で再展開 米の輸出規制が解除 「脱獄」対策を強化し危険度の共通指標を提案
米AI企業Anthropic（アンソロピック）は7月1日、対話AI「Claude（クロード）」の最新モデル「Fable 5（フェイブル5）」の世界での提供を再開した。6月にAmazonの研究者が安全装置を回避する手口を報告し、米政府が輸出規制をかけて一時停止していたが、6月30日に規制が解除された。同社は回避手口を99%以上遮断する新しい判定システムを導入し、24時間の監視体制を敷いた。あわせて7月2日、AIの「脱獄（ジェイルブレイク）」の危険度を4つの観点で測る評価の枠組みを公表し、業界共通の物差しにするよう呼びかけた。開発企業と政府が同じ言葉で危険性を語れるようにする狙いがある。
- AI
AIの“頭の中”に脳と似た仕組み Anthropic、Claudeに「Jスペース」発見 「意識の証明ではない」と強調
米AI企業Anthropic（アンソロピック）は7月6日、自社の対話AI「Claude（クロード）」の内部に、人間の脳で「意識」を説明する理論と似た仕組みを見つけたとする研究を公表した。答えを文章にする前に、モデルが“頭の中”で概念を扱う内部空間を特定し「Jスペース」と名付けた。これを観察すると、AIが黙って進める推論や、表に出さない“隠れた目的”まで読み取れるという。ただし同社は「AIが意識や感情を持つことを示すものではない」と念を押している。AIの中身を透明にする『解釈可能性』研究の一つで、安全性向上への応用が期待される。
- AI
Microsoft 365 Copilot、応答AIに「Claude」追加 競合モデルを選択肢に
米マイクロソフトは16日、業務向けAI「Microsoft 365 Copilot」の対話機能で、米アンソロピックの生成AI「Claude」を選べるようにしたと発表した。自社・OpenAI系が中心だったCopilotに競合モデルが加わる。PowerPointの画像生成モデル追加などの更新も同時に行った。