約１年前、ソフトバンク孫社長は、「これからGAI（汎用人工知能）を使いこなせない人間は、金魚になる」と予言しましたね。しかし日本経済新聞青木慎一編集委員は昨日の同紙「科学の扉」欄に以下のような論評を発表しています。とても示唆に富む内容だと思われるので、ちょっと長いですがその抜粋を引用させていただきます。
【２０２４年のノーベル物理学賞ジョン・ホップフィールド・プリンストン大学名誉教授は、AI（人工知能）の急激な性能向上を「非常に不安に思う」と語った。ジェフリー・ヒントン・トロント大学名誉教授は、人知を超えるAIが登場すれば「人間を支配しようとする」と予想した。
しかしAIの性能向上への大規模な投資が続き、競争も激化している。ＡＩの研究者と技術者は世界で１０万人を超すが、安全性に取り組むのは１％にも満たないとされる。ヒントン氏は「もっと多くの若手研究者がＡＩの安全性研究に取り組むべきだ」と呼び掛けている。
実は８０年前の第二次世界大戦時、「量子力学の育ての親」と言われ１９２９年のノーベル物理学賞を受賞したニールス・ボーアは、原爆の開発が近いと知ると多国間による管理を訴えた。米英首脳にも直談判したが、ソ連への警戒感から拒絶されてしまう。科学者の訴えは聞き入れられず、その後米ソを中心に世界は核開発競争に走り、広島長崎への核爆弾投下、そして冷戦期の暗黒時代を迎える。】
猛烈なスピードで突っ走るレーシングカーには、それに応じた高性能ブレーキと非常用脱出装置が内蔵されています。それでもしばしば大事故は起こっています。やはり人間にはその生物学的な限界に応じたリミットがあるのではないでしょうか？