The Precipice: Existential Risk and the Future of Humanity

Since the particles of infinity have memory and retain experience, and of the potential of doing the right thing through love, it’s possible to simultaneously bind without capturing and support without limiting. Therefore, infinite potential has a constant, which is love, that can ignite a quality and a quantity of these particles.

This is a very hands-on approach to the doomsday scenarios. It discusses our moral obligation to keep humanity thriving and actually goes over the probability of these rhings happening.

A great read! Insightful and interesting!

Los tiempos actuales deben entenderse y solo ver noticias no ayuda. Este libro nos hace entender los tiempos que vivimos y hacia dónde vamos.

人類の存続に関わる existential risk について著者なりの筋に沿って整理してあるが、話が拡散しすぎていもる。その基本構造は概ね次のようになる。すなわち、人類の存在価値は計り知れないがその真価を顕すまで存続できるとは限らない。存続を脅かすリスクには自然に起因するものと人類自身に起因するものがあるが、今後数世紀の間は後者のリスクが高くこれを乗り越えられなければ存続はおぼつかない。一方、前者については人類が長期にわたり存続できれば必ずや解決策を見出すであろう。よって、今が正念場（precipice）というわけだ。 前半は論理的に分かりやすく異論はないが、気候変動では滅亡にまでは至らないとしてAIの暴走を当面の最大の危機と見積もるのは本書の特徴かもしれない。全体的に Steven Pinker 的な楽観論とMax Tegmark的な時空の広がりがあるように思う。違う言い方をすればカント的な人間理性への信頼か？ また、世代間倫理的な観点が強く出ている。人類の極めて長期の存続は文句なしに善でありかつ可能であるとされ、ここ数百年の危機を乗り切ったならば人類が銀河のスケールで広がっていくこともありえる (原文 canやmayではなくmight )という。逆に文明の進歩を止めればやがて来る破局的自然災害（隕石 etc）などで滅ぶのでそれはできない。著者は科学や技術を否定して「自然に帰れ」などと言ってるのではない。 ここまでくると、科学ではなく哲学とも言い難くある種の「思想」と思った方がいいが、物理法則で禁じられないことは人間が愚かにも自滅しなければ実現の可能性はゼロではない、というスタンスのようだ。ただ、銀河の話はともかく、人類の（比較的）長期の存続という観点が当たり前になるくらい人間が進化してもいいと評者も考えるし、具体的なことを考えるきっかけとして一度は遥か未来、銀河の果てまで思いを馳せてみるのも悪くない。