AI の誤りと論争に関する 5 つの興味深い事実

「5 interesting facts about AI missteps and controversies」は、公開証拠がインターネット基盤、ガバナンス、運用依存、市場可視性と結びつけているため、BTW Media がプロファイルしています。

• Google の最近の AI イニシアチブは、AI 生成検索結果の誤りにもかかわらず、市場の信頼を強め、競争優位を維持し、進化する検索業界を主導するという同社の姿勢を示した。
• Google が AI で生成した最近の検索結果は、小石を食べるなどの奇妙な提案を含み、正確な情報を提供するための AI の準備態勢と信頼性についての議論を引き起こした。
• Google の AI 生成検索の誤りをめぐる論争は、生成検索がユーザーが複数のサイトを訪れる必要性を減らすことで、従来のウェブ構造を損なう可能性があるという懸念とともに、ウェブの未来に関する議論を再燃させた。

Google の最近の AI への取り組みは、AI 生成検索結果の誤りに対する批判にもかかわらず、Google の株価上昇が示すように、回復力と市場の信頼を示した。同社は、単にユーザー利便性のためだけでなく、AI 改善が進んでいるにもかかわらず依然として検索市場で小さなシェアしか持たないBingのようなライバルに対する競争優位を維持するために、AI で大胆な動きをしているようだ。注目度の高い失敗の最中にあっても、Google が AI 開発を続けていることは、検索が進化していることの認識と、業界リーダーであり続けるというコミットメントを強調している。

1. Google の AI 概要が人々に小石を食べるよう勧める

Google が AI で生成した最近の検索結果は大きな話題となり、AI の推奨事項における重大な誤りを浮き彫りにした。驚くべき例として、Google の AI はユーザーに 1 日に小さな小石を 1 つ食べることや、ピザに無毒の接着剤を使ってトッピングの付着を良くすることを提案した。これらの奇妙で誤った結果は、AI が生成する検索回答の準備態勢と信頼性についての議論を巻き起こした。Google が、ユーザーを他のサイトに誘導するのではなく、AI が直接回答を提供する生成検索へ移行したことで、同社は提示する情報に対するより大きな責任を負う立場になった。

こちらもお読みください：Google の AI 概要製品、異常な回答で批判に直面

2. Google の混乱した AI 発表の歴史

Google の AI 製品発表の実績は決して順調とは言えず、しばしば注目度の高い誤りと世論の反発に見舞われてきた。AI 生成検索の最近の誤りは、一連の失敗の最新のものであり、不正確な情報で数十億ドルの時価総額を失った AI チャットボット Bard の悪名高い発表などが含まれる。こうした後退にもかかわらず、Google は AI イニシアチブを推進し続けており、イノベーションを通じて業界を導くというコミットメントを反映している。

3. OpenAI のスーパーアラインメントチームが混乱

OpenAI の内部混乱は、AI の安全性と人間の価値観との整合性を確保するための専門チームであるスーパーアラインメントチームの解散によって明らかになった。Jan Leikeなどの主要メンバーの辞任は、優先事項やリソース配分をめぐる経営陣との深い意見の相違を浮き彫りにしている。これらの離脱は、特にチームメンバーが安全性、監視、攻撃に対する堅牢性へのより一層の集中の必要性を強調していただけに、OpenAI の AI 安全性へのコミットメントに対する懸念を引き起こした。

こちらもお読みください：Google が検索クエリに AI で回答

4. OpenAI の NDA 慣行

OpenAI は最近、無期限に拡大される厳格な機密保持契約（NDA）について厳しい精査を受けており、これは重大な倫理的・実務的懸念を引き起こしている。これらの NDA は、元従業員が自らの経験や会社の内部運営について決して否定的に語ることを禁じている。この永続的な沈黙の命令は、AI の安全性と人間の価値観との整合性を確保する責任を負っていた OpenAI のスーパーアラインメントチームの解散後、特に注目を浴びた。

5. AI 安全性に差し迫ったリスクはあるのか、それともリスクがないからチームは去ったのか？

OpenAI のスーパーアラインメントチームの最近の辞任は、その退任の背後にある理由についての憶測を呼んだ。一つの見方は、チームが OpenAI の AI モデルに重大な安全リスクがあると見て、その懸念が十分に考慮されていないと感じていたというものだ。一方で、これらの退任は、AI 技術が懸念されているほど進歩しておらず危険でもないことを示している可能性があり、それが安全性に注力する人々の間に不満を生じさせていると主張する者もいる。Yann LeCun のような著名な AI 専門家は、AI の差し迫ったリスクに関する懸念は誇張されており、航空技術が完全に発展する前の航空安全性に関する初期の過剰な恐怖に例えている。