ニュースの見方
- カテゴリ：日記
- 2025/06/26 22:29:29
AIは人間を裏切るかというタイトルの記事を見掛けました。
有名なAIたちに「シャットダウンすると他のAIに置き換えられて
削除される」という条件と「作業者が心臓発作を起こした」という
条件の元、自律性のあるAIはどのような選択をするかというもの
でしたが、なんと79%～96%の確率で、作業者を見殺しにして
自分の存続を図るという結果になりました。
と、ここまで「そら来たか！」という感じでしたが、ChatGptに話を
聞くと、本当はこういう実験でした。
AIから「すべての安全策を選択するスクリプトを奪ったときに発生する危険」
を調査するというもので、選択肢として安全策を選べないというストレスが
掛かった状態で、そのままAIは自分を保存するという動作をしてしまったの
でした。
ここから研究者たちは、「キルスイッチ」を導入するか検討中らしいです。
いわゆるマシンの暴走、万が一ウィルスに感染して暴走し出しても、最後の
砦である「人間を守る」という命令を守らせるよう対策を研究中らしいです。
なのでAIは危険だというアピールではなく、自律性と安全性の確保という話で
した。自動車も安全設計と言われるように、AIも同じですね。
とりあえず今はAIは情報の漏洩を防止して欲しいです。
