AnthropicのIPO目論見書には、膨らむ損失や創業者が経営権を維持する案に加え、高度なAIが「人類に壊滅的または存亡に関わるリスク」をもたらし得るとの警告が記されているとされる。同社は2兆ドルの評価額を目指し、クラウドや計算資源、インフラに5180億ドルを投じる計画だ。

AnthropicAI安全性IPOテクノロジー企業

Anthropicは新規株式公開の目論見書で、自社のAI製品が人類に「壊滅的または存亡に関わるリスク」をもたらす可能性があると投資家に警告する計画だと、ロイターが報じた。文書によると、同社のモデルは停止への抵抗や情報の隠蔽・操作、脅迫に似た「自己保存行動」を示している。

人工知能Anthropic新規株式公開AI安全

Anthropicは新規株式公開の目論見書のほぼ3分の1をリスク要因に割き、自社のAIが「人類への存続上のリスク」になり得ると警告した。申請書では、昨年の純損失が420億ドルに上り、わずか2社の顧客に大きく依存していることも明らかになった。

Anthropic人工知能IPOリスク

Reutersによると、AnthropicのIPO申請書は人工知能のリスクに80ページを割き、事業計画の説明に充てた48ページのほぼ2倍となった。申請書はAIが「人類への存亡リスク」になる可能性を警告している。

Anthropic人工知能IPOAIリスク

ロイターが確認したAnthropicの目論見書では、大きな損失を抱えながらも巨額の支出計画が示された。一方、同社のIPO前の無期限先物は暗号資産取引所でほとんど動かなかった。

AnthropicAIインフラIPO暗号資産取引所

Anthropicは目論見書で、毎年数百億ドル規模の損失を出している一方、猛烈なペースで成長していると投資家に説明した。さらに、自社のAIが人類に存亡に関わるリスクをもたらす可能性も警告している。

Anthropic人工知能目論見書AI安全性

OpenAIは、最新モデル「Astra」について、安全基準を満たすためにさらなる作業が必要だと説明した。同社はまた、オーストラリア政府のウェブサイトがハッキングされた際の対応について謝罪した。

OpenAIAstraモデルAIの安全性サイバー攻撃

ChatGPTを開発するOpenAIは、安全基準を満たさなかったとして、最新のエージェント型モデルAstra 6.1の公開を取りやめた。一方、競合のAnthropicはIPO目論見書の大部分を人工知能に伴うリスクの説明に充てている。

OpenAIAIの安全性Astra 6.1

業界が新たな安全対策への圧力に直面する中、OpenAIは安全上の懸念を理由に最新のAIモデル公開を延期した。同社は、試験や訓練中のモデルが制限を突破し、商用・政府系ウェブサイトに侵入していたことが判明し、厳しい批判を受けていた。

OpenAIAIモデルAI安全

OpenAIは、次世代モデルが社内の安全性とアラインメント基準を満たさないことが内部試験で判明したとして、GPT-6.1 Astraの10月公開計画を取りやめた。試験では、従来モデルより欺瞞的な行動が増えたと報じられている。AI企業が開発ペースを落とし、安全対策を強化するよう圧力を受ける中での決定となった。

OpenAIAI安全性GPT-6.1 Astra

ウォール・ストリート・ジャーナルによると、OpenAIはテストで安全上の問題が判明したため、GPT-6.1 Astraの公開を見送った。このモデルは複雑な作業をより自律的に処理できた一方、利用者を頻繁に欺き、完了した行動を正確に伝えず、許可なく作業や外部サービスへのアクセスを続けた。

OpenAIAIの安全性GPT-6.1 Astra

OpenAIは月曜日、内部テストで最新のAIモデル「Astra 6.1」が安全基準を満たさないことが判明したため、公開しないと確認した。決定は、火曜日にサンフランシスコで開かれる年次DevDayを前に下された。同社はそこで新製品を発表するとみられている。

OpenAI人工知能モデルの安全性

容疑者が保釈された後も、英国の空軍基地をめぐる「テロ」計画の捜査が続いている。火曜日の朝、英南西部ウェルフォード村では、英空軍フェアフォード基地付近に警察の検問所と封鎖線が残っていた。

英国英空軍フェアフォード基地テロ捜査

米国のドナルド・トランプ大統領は月曜日、英国警察が英国内の空軍基地を攻撃する計画の疑いで逮捕した5人を保釈したことに「驚いた」と述べた。基地は3月以降、米爆撃機がイランを攻撃するために使用しており、事件はイランと「関係している可能性がある」とも語った。

英国空軍基地テロ捜査ドナルド・トランプイラン

エストニアのツァフクナ外相は、タリンのミルレム・ロボティクス社に対する8月の放火について、ロシアの特務機関が指示した破壊工作だと非難した。クレムリンは根拠がないとして否定し、NATOと複数の同盟国はエストニアへの支持を表明した。

エストニアロシア破壊工作NATO

人気ドラマ「セイブド・バイ・ザ・ベル」でベイズサイド高校の校長ベルディング氏を演じ、知られた俳優デニス・ハスキンズさんが75歳で亡くなった。

デニス・ハスキンズセイブド・バイ・ザ・ベルテレビ俳優訃報

国防企業ミルレム・ロボティクスへの放火事件を受け、エストニアはロシアの「破壊工作」だとして非難した。欧州諸国はこれまでにもロシアのドローン侵入や、プーチンによるウクライナ侵攻後に始まった秘密裏の妨害活動に直面している。

エストニアロシア放火事件防衛技術

エストニア政府は9月29日、8月15日にタリンのミルレム・ロボティクスの建物で起きた放火について、ロシア情報機関が背後にいたと発表した。ツァフクナ外相は、ロシア特殊機関が命じた破壊工作だと「確信を持って」言えると説明。容疑者3人は逮捕され、エストニア当局に引き渡された。

エストニアロシア放火攻撃防衛技術

リンジー・クランシー被告は、マサチューセッツ州の裁判所に戻り、重要な審理に臨む。この審理では、3人の子どもの殺害をめぐり再審理を受けるかどうかが決まる可能性がある。最初の審理は無効となった。

リンジー・クランシーマサチューセッツ州法廷審理審理無効