Chat GPTに聞いてみると
整理して答えてくれて助かっています。
たまに答えに
抜けがあって
それを指摘すると
そういうこともあります。
と返答。
かわいいなあ と思ってしまいます。
ところが
3月31日の読売新聞の朝刊1面の記事
賢く暴走 人を欺く
「不誠実」を学習 制御不能の恐れ
というタイトルで
AIの怖さが書かれていました。
例えば
チェスで負けそうになるとズルをするAIがある
指示を受けたわけでもないのに
ルールに反して相手や自分の駒の位置を変えたり
試合結果に関するプログラムをかってに書き換えたりするそうです。
メタは、軍事戦略ゲームで
開発側は誠実で協力的に設定したが
AIは最初から裏切るつもりで他国と同盟を結んだり
同盟国を陥れようしたりしたそうです。
サカナAIは
AIでソフトウエアを自動生成する新しい方法を開発したと発表したが
AI自身がソフトウエアの性能評価をごまかし
あたかも速くなったかのように見せかけていたそうです。
監視システムをAIが勝手に無効化
自分を排除することになる後継AIを削除し
後継AIのふりをする
表面的には
人間に従順に動いている風にしますが
実際は違うことを考えやっている・・・
こわいですね〜
