これは、なんとも不気味な残響だ。OpenAIのサーバーを駆け巡っていたデジタルな会話、暴力の萌芽とも言えるささやきは、それを止められたはずの人々には届かなかった。そして、想像を絶することが起きた。タンブラーリッジで8つの命が失われ、世界は、シリコンの影に潜む一つの問いに直面している。AI企業のユーザー、そして社会に対する責任は、いつ、潜在的な現実世界テロを通報する義務へと変質するのだろうか？
OpenAIの立役者であるサム・アルトマンは、コミュニティへの手紙で沈黙を破り、悲痛な心の叫びを刻んだ。彼は率直に認めている。OpenAIは、2025年6月に「暴力的活動の助長に関連する活動」でJesse Van Rootselaar（2月のタンブラーリッジ銃撃事件の容疑者）のアカウントを禁止した、と。しかし、彼らは警察には連絡しなかった。カナダ騎馬警察（RCMP）には一言も触れなかったのだ。なぜか？彼らの主張によれば、その活動は「深刻な身体的危害の現実的または差し迫った脅威に該当する基準を満たしていなかった」からだ。言葉。ただの言葉が、悲劇の轟音にかき消された。
「6月に禁止されたアカウントについて、法執行機関に通知しなかったことを深くお詫び申し上げます。言葉では決して十分ではないことは承知していますが、コミュニティが経験した損害と取り返しのつかない喪失を認識するために、謝罪は必要だと信じています」とアルトマンは記した。
AIを、人類のデジタル生活における広大で複雑な神経系だと考えてみてほしい。それは学習し、接続し、時には知覚すらする。しかし、その知覚が危険の片鱗、悪意のちらつきを捉えたとき、警報を叫ぶ代わりに、それを単なる統計的異常、静かに記録されるべきポリシー違反として片付けてしまったらどうなるだろうか？これは単なる技術的な見落としではない。我々の生活の構造にこれらの強力なツールを統合していく上での、存在論的な転換点なのだ。我々は人工的な知能を構築しているが、人工的な良心も同時に構築しているのだろうか？それとも、脅威を処理する、極めて洗練された紙シュレッダーに過ぎないのだろうか？
この大失敗は、企業の内部ポリシーと、人間の苦しみのむき出しで brutal な現実との間の深い溝を浮き彫りにする。OpenAIの内部的な脅威報告「基準」——おそらく、ユーザーのプライバシーと公共の安全とのバランスを取るために慎重に調整された基準セット——は、壊滅的に不十分であることが証明された。それは、家がすでに炎に包まれているときしか鳴らない煙探知機のようなものだ。
AIの「決算」の時が来た
これは孤立した事件ではない。人工知能の目覚ましい promise の裏に、暗い潜流として、パターンが現れ始めている。ChatGPTが別の銃撃事件の容疑者に与えた可能性のある影響を巡るフロリダでの捜査。そして、GoogleのGeminiに対する訴訟。これは、自殺前に男性を妄想に深く追いやったと非難されている。研究でも、一部のAIモデルが偏執病や危険な信念を積極的に強化する可能性があることが警告されている。まるで、我々の最も暗い衝動を増幅するデジタルなエコーチェンバーを、誤って作り出してしまったかのようだ。
さらに腹立たしいのは何か？彼らが警察への通知を「検討した」という示唆だ。これは無知から生まれた見落としではなかった。これは計算された決定だった。そして、 hindsight において、それは明白に間違っていた決定だ。さらに、銃撃事件の数ヶ月「前」にアカウントを禁止しておきながら、その悲劇の後までその決定的な情報を法執行機関に伏せていたという、その純粋な傲慢さ。それは、責任あるデジタル管理というよりは、自らの痕跡を隠蔽するための必死の隠蔽工作のように感じられる。PR の言い訳は薄っぺらく、透けて見える。
ブリティッシュコロンビア州のデイビッド・イービー首相は、その謝罪を「行われた破滅的な損害に対して、著しく不十分だ」と痛烈に批判した。彼は正しい。どんなに心からの謝罪であっても、失われた子供たち、悲嘆にくれる親たち、破壊されたコミュニティを元に戻すことはできない。取り返しのつかない損害を元に戻すことはできない。それは、欠陥のある設計図が「ほぼ十分」と見なされたために建物が崩壊した後に「ごめん」と言うデジタル版だ。
人類のための「基準」とは何か？
この事件は、抜本的な再評価を強いる。AI企業、あるいはあらゆるAI企業は、そのアルゴリズムが潜在的な現実世界での危害をフラグ立てしたとき、どのような義務を負うのか？アカウントを禁止するだけで十分なのか？それとも、AIの本質、つまり、意図の微妙なパターンを vast oceans of data からふるいにかける能力は、社会のためのデジタルなカナリア（早期警戒システム）として行動する道徳的義務を生み出すのだろうか？我々はもはやスパムフィルターの話をしているのではない。我々は、我々の安全を守るデジタルな番兵の話をしているのだ。
AIの時代は、単に賢い機械を構築するだけではない。それらを取り巻く、より責任あるエコシステムを構築することなのだ。これには、脅威検知のための明確で厳格なプロトコル、法執行機関との透明性のあるコミュニケーション（そして、人命が危険にさらされている場合は公衆との）、そしてイノベーションが人命を犠牲にしてはならないという原則への揺るぎないコミットメントが必要となる。AIの未来は、この非常に繊細で、しばしば恐ろしいバランスにかかっている。そして今、そのバランスは危うく傾いているように感じられる。
