内容紹介（JPROより）

現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたAIが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？　ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！

内容紹介（「BOOK」データベースより）

どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能ＡＩ」がつくられたら、地球上のすべての人間が必ず死ぬ。ＬＬＭ（大規模言語モデル）がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいているー。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたＡＩ「セイブル」がウイルスをばら撒き、全人類の１０％を死滅させる。そして残りの９０％も一瞬で…。一体なぜ？最悪の結末を回避するために、私たちにできることとは？ＡＩ技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにＯｐｅｎＡＩ創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。

目次（「BOOK」データベースより）

序章　困難な予測と容易な予測／第１部　非人間的な知性（人間の特殊能力／つくられるのではなく育てられる／欲することを学ぶ／訓練したとおりの結果は得られない／ＡＩのお気に入り／人類は敗北する）／第２部　ある絶滅シナリオ（危険な認識／拡張／登頂／結末）／第３部　困難に立ち向かう（呪われた問題／科学ではなく錬金術／「不安を煽りたくはない」／停止せよ／生きている限り希望はある）

著者情報（「BOOK」データベースより）

ユドコウスキー，エリーザー（Yudkowsky,Eliezer）
１９７９年生まれ。機械知能研究所（ＭＩＲＩ）の創設者。人工知能を人間の意図や価値観に整合させる「ＡＩアライメント」研究の草分け的存在であり、「フレンドリーＡＩ」概念の提唱などで知られる。高校や大学に通わず独力で学び、２０００年、ＭＩＲＩの前身となる「ＡＩのためのシンギュラリティ研究所」を創設（２０１３年に改称）。当初は人間の知能を超えるＡＩの実現を目指すが、まもなくそのリスクの重大さを認識するようになる。２００６年から２０１２年にかけてピーター・ティール、レイ・カーツワイルとともに「シンギュラリティサミット」を主催。人間の合理性やＡＩの安全性を主要なトピックとするオンラインフォーラムＬｅｓｓ　Ｗｒｏｎｇを２００９年に設立。２０１０年から２０１５年にかけて発表した「ハリー・ポッターと合理主義の方法」は異色のファン・フィクションとして絶大な人気を誇る。２０２３年、タイム誌「ＡＩ分野で最も影響力のある１００人」に選出

ソアレス，ネイト（Soares,Nate）
１９８９年生まれ。ＭＩＲＩ所長。ジョージワシントン大学でコンピュータサイエンスと経済学を学んだ後、マイクロソフトやグーグルでのエンジニア職などを経て、２０１４年にＭＩＲＩに参画。２０２３年より現職

櫻井祐子（サクライユウコ）
翻訳家。京都大学経済学部卒。大手都市銀行在籍中にオックスフォード大学大学院で経営学修士号を取得（本データはこの書籍が刊行された当時に掲載されていたものです）