OpenAI 従業員が高度な AI の危険性を警告
OpenAI と Google DeepMind の現従業員および元従業員数名が本日、高度な AI の危険性と、AI テクノロジーに取り組む企業に対する現在の監督不足について警告する 公開書簡を共有しました 。
従業員らは、既存の不平等のさらなる固定化、操作や誤った情報、自律型AIシステムの制御不能など、AIの開発によって私たちが直面している多くのリスクがあることを示唆しており、書簡には人類の絶滅につながる可能性があると書かれている。
AI企業は開発を進め、自社の保護策やリスクレベルに関する情報の共有を避けるための「強力な金銭的インセンティブ」を持っている。書簡には「全員が自発的に情報を共有できるとは考えていない」と書かれており、声を上げるのは現従業員と元従業員の責任であると書かれている。
これらの企業に対する政府の効果的な監督がない限り、現従業員および元従業員は、それらの企業に対して国民に対する説明責任を負うことができる数少ない人物の一人である。しかし、広範な機密保持契約により、これらの問題に対処できていない可能性のあるまさに企業を除いて、私たちが懸念を表明することが妨げられています。通常の内部告発者の保護は違法行為に焦点を当てているため不十分ですが、私たちが懸念しているリスクの多くはまだ規制されていません。
従業員らは最終的に、AI企業に対し、AIのリスクについて告発する内部告発者を確実に保護するよう求めている。
- リスク関連の懸念に対する批判を防ぐような協定の作成や強制は避けてください。
- 従業員がリスク関連の懸念を取締役会、規制当局、関連する専門知識を持つ独立組織に提起できる、検証可能な匿名プロセスを提供します。
- 営業秘密が保護される限り、従業員がテクノロジに関するリスク関連の懸念を公衆、取締役会、規制当局などに提起できるように、オープンな批判の文化をサポートします。
- 他のプロセスが失敗した後に、リスク関連の機密情報を公に共有する従業員に対する報復は避けてください。
この書簡には、OpenAI の元従業員 7 名、OpenAI の現従業員 4 名、Google DeepMind の元従業員 1 名、Google DeepMind の現従業員 1 名を含む合計 13 名の従業員が署名しました。 OpenAIは、声を上げると既得権を失うと従業員 を脅し 、批判をかわす厳格なNDA契約に署名させている。
この書簡は、Appleが月曜日に iOS 18 およびその他のソフトウェアアップデートのAIを活用した複数の機能を発表する準備をしている中で行われた。 Apple は、オペレーティング システム全体のアプリに組み込まれる独自の AI 機能の開発に取り組んでおり、さらに、ChatGPT 機能を「iOS 18」に統合するために OpenAI と 契約を締結し ました。
