https://bbarchive240815a.peatix.com/
当日語り切れなかった部分を含めて資料を公開する。
＊自己紹介
稲葉振一郎
明治学院大学社会学部教授
専攻はとりあえず社会哲学
英語の学術論文は宇宙倫理学に集中している。
日本語ではAI倫理学関連の論文もある。
社会学史、経済学史、政治哲学、およそ思いついたことは何でも書いてみる人生。
０．コメントへの回答と反問
＊本書は総じて深層学習以前のAI像にとどまっており、それゆえの限界があるので、歴史的コンテキストを振り返ると、
・機械学習以前のAI・ロボット像＝人工生命・人造人間
理想的極限においては自律的エージェントとなる。
哲学の主題としてのAI・ロボット：「どのような機械であればそれを自立した知性と呼びうるか？」という思考実験の課題（その系論としてのAI・ロボット倫理――AI・ロボットの正しい遇し方とは？）
・機械学習直後のAI・ロボット像＝直近においては半自律的道具、将来においては人工神
自律的エージェントでありかつ人間には理解不能・制御不能（ボストロムの超知能）
現代の言葉でいうAIアラインメント問題の出現
・機械学習普及後のAI像＝古典的な意味での自律的エージェントへの期待の衰退と、にもかかわらず理解不能・制御不能な道具としてのAI像
自律した身体を備えたAIエージェントとしてのロボット像の衰退
理解不能制御不能な道具としてのAIについてのアラインメント問題
・飛浩隆『自生の夢』の「野生の詩藻」のイメージはそれを予感している？
＊長期主義の中での動物倫理の可能性について質問
・田上孝一『はじめての動物倫理学』では家畜・ペット全廃論と、現存の家畜・ペットに対する選択的反出生主義とでもいうべき展望が提示されている。この主張は現行の動物倫理学の中では必ずしも異端でも奇矯でもない。
・更に田上は功利主義者ではないがマルクス主義者として近代的進歩主義者であり、その延長線上にその動物解放論はある。つまり過去の人間は動物を搾取せずに生きていくことが難しかったが、技術の発展により動物を搾取しない生き方が可能となったのであり、かつそれが道徳的にも優る以上、動物を解放すべきである、と。
・ただ、こうした進歩主義に立ち、かつ長期主義的な展望をとって動物解放を追求すると、やがて野生動物の解放戦略についての深刻な対立が生じうるのではないか。つまり現状では野生動物の解放とはただ単に手を出さないようにすること、が最大公約数的考え方だが、野生動物の生において快楽と苦痛のどちらが優越するか、という問いを立て、苦痛が優越する、との答えが出たならば、功利主義的観点からは野生動物に対する反出生主義が帰結しうるし、それを取らずにかつ徹底的な進歩主義を取って、あらゆる動物をペット化する、という発想も生じうるし、現に論じられている（功利主義の枠内で「仁愛的畜産論」が成り立つ以上、それより明らかにましな「仁愛的ペット論」が成り立たないわけがない）。（cf.デイヴィッド・ブリンの「知性化(uplift)」）
・長期主義的展望をとると、動物解放思想の中でも功利主義・カント主義・マルクス主義等の近代派はいずれこの種のパズルにたどり着くのではないか、と予想される。これに対して反近代派（アニマル・スタディーズ？）はこのパズルを免れる可能性が高い。しかしそもそも反近代派は長期主義の枠組み自体を拒絶する？
＊功利主義の復権
シンガーによる応用倫理学基礎理論としての汎用性の例示
パーフィットによる総量主義の復権：ベンサム的原点への回帰
その実践的展開としての効果的利他主義（EA）
＊効果的利他主義の当初の焦点：グローバル倫理、援助の義務
グローバルな援助をいかに効果的に行うか？
・限られた援助資源をより効率的に使う。
・援助に充てられる資源そのものを増やす→人によっては（直接的には資源の消費となる）援助に従事するよりも、資源そのものの生産に注力し、その成果を寄付した方が、結果的に援助に充てられる資源を最大化できる。
←これへの典型的な左翼的批判：資本主義の全面的肯定である。
援助を必要とする貧困は、実は資本主義の帰結ではないのか？
←ありうべき反批判は当然、ルソーに対するスミスの批判の再演になる。資本主義による格差が拡大しても、最底辺の生活水準が絶対的に向上すればよいのでは？ と。
＊効果的利他主義の派生態としての長期主義
効果的利他主義は総量功利主義を踏まえており、そこでの目標は歴史を通じての幸福の最大化である。
他の条件を一定とすれば人口は多ければ多いほどよく、それゆえ未来における人口の更なる増加と生活水準の向上、それを可能とする経済成長、宇宙の植民地化を求める。
理論的には、未来における人類の更なる繁栄のために、現在を含めたそれ以前の人類が一定の犠牲を払うことも、歴史的な幸福の総量が増大するなら、正当化されうる。（理論的には古典的な総量主義への批判においてしばしば持ち出された、「最大多数の最大幸福」が少数の犠牲の上に実現されることの許容と同じ理屈である。）
パーフィットの「いとわしい結論」による懐疑は長期主義にも適用されるが、現時点での長期主義者は「いとわしい結論は（見かけほどは）いとわしくない」という方向に傾きつつある。
２．現代という時代の特権性の主張
産業革命前後から今日まで、人類社会は人口や生産力で測ってパーセントのオーダーでの成長を遂げてきたわけであるが、これは過去の人類史で言えばほんのつい最近のことであるのみならず、未来においてもこれほどの高成長は持続しえない。
彼の指摘を真に受けるなら、パーセントのオーダーでの成長が可能な未来はせいぜい数百年のオーダーということになる。仮にこの見立てが厳しすぎたとしても、一桁上げても数千年であり、宇宙論どころか地球物理学的にも大した時間ではない。
既に宇宙論の研究者によって、宇宙膨張ゆえに観測可能な宇宙の範囲自体がやがて相対的に狭まり、あらゆる天体はやがて光速を超えて我々から遠ざかって観測不可能になり、観測可能――つまりは到達可能な範囲は局所銀河群、よくておとめ座銀河団に限られしまう、と我々は指摘されていたはずである。ということは仮に人類が滅びずに何億年というオーダーで生き延び、宇宙に広がっていったとしても、いずれは利用可能な物理的資源の限界にぶつかるということである。もちろんその利用効率を上げていくことは可能だろうが、それにも上限が存在する可能性は高い。
３．長期主義への批判
＊長期主義のライバルとしての加速主義
長期主義は功利主義の系譜に連なるため、個別主体の自由それ自体には目的的価値を認めず、それが真に幸福の実現につながるなら、個人的自由の制限、人類社会全体の計画的管理を容認するが、それに対して加速主義はリバタリアニズムの系譜に連なり、自由の制限を悪とする。また効率の観点からも、技術発展、生産力の増大のためには規制を最小化し、個人的な自由を最大化した方がよい、と考える。
細かく言うと加速主義の源流は一部のポストモダン左派のアナーキズム、テクノクラシーの悪を技術の規制によってではなく、技術を万人に平等に開放することによって克服しようとする立場だったが、現代において強い影響力を持つのはむしろ右派的なリバタリアンの系譜に連なり、平等を重視しない立場である。これを効果的加速主義（e/acc）と呼ぶ。
長期主義も効果的加速主義も最終目標においては大差なく、対立は主に手続的レベルに存する。
＊優生主義という批判
少なくとも千年単位、より本格的には百万年単位、一億年単位をも射程に入れる以上、自然な進化のプロセスによる人類の末裔の現生人類からの変化、地球環境そのものの変化の可能性までをも考慮に入れる以上、人間の性質の変化の可能性を考慮に入れないわけにはいかない。もちろん理論的には一切の人為的変化を拒絶するという選択もありうるが、現実的ではない。超長期的な時間的射程の下での人類の存続をめざすならば、その中での人間性の変容は、たとえ人為的な介入によるそれが禁じられても自然に起こらざるを得ないし、また全面的に禁じることが正当かどうかもわからない。それゆえに長期主義においては人間の「品種改良」の可能性について考えることはタブーではない。しかしこれは結局のところ優生主義への滑りやすい坂の上にあり、そのつもりはなくとも人間の間での差別と選別の正当化につながる危険がある、との批判もなおありうる。
ただひとつ指摘しておくと、長期主義における「優生主義」は伝統的な優生主義、特にいわゆる社会ダーウィニズムとは明確に異なるものである。社会ダーウィニズムにおいては近代社会の秩序、とりわけ福祉国家体制が、本来であれば自然選択によって淘汰される弱者を生存させる、という発想が支配的だった。しかしより洗練された進化生物学理解を踏まえた長期主義においてはむしろ反対に、人間が価値を置くものが進化的な適応にとってプラスだったのは人類が文明を獲得する以前の環境においてのことに過ぎず、未来永劫そうだとは限らない――それこそ現代の技術文明の下で、文化や娯楽を愛するという性質は進化的な意味で適応度が低く、その証拠に少子高齢化はとどまるところを知らない。現在の人間性はESSではなく、現在の技術文明の環境に対してより適応度が高いミュータントの侵入に対して脆弱である、とボストロムは論じる。
＊反出生主義からの批判
功利主義の土俵に乗りつつも、快楽と苦痛のバランスシートは一般的にはマイナスになる、基本的には生において苦痛は快楽を上回る、と反出生主義は主張する。この立場からすれば、人口を増やせば快楽の総量は増えたとしても苦痛の総量もそれ以上に増える。ここで言う「人口」は功利主義と同じく狭義の人間や知的生命のみならず可感的存在全てを含むので、この主張には相応の説得力がある。文明化された人間（知的生命）世界においては、快楽が苦痛を上回ることは可能だが、自然界においてはそれはありえない。
←動物倫理学者からは野生動物の生にも介入して快苦バランスをプラスにすることは理論的には可能でありやるべきだ、との反批判がある。（ここで動物倫理と環境倫理の蜜月が破れる？）
同様のことは可感的人工知能システムにも当てはまる。
＊「機会損失」という発想
長期主義において、現在を犠牲にしての未来の繁栄という方略の正当性を支えるのは、ひとつには時間的中立性であり、それ以上に、現在において存在し生存している者と、現存せず単なる可能性でしかない者との間にも中立性を想定する、という発想である。
要するに、実現可能な価値を実際に実現しないことは「機会損失」として、現にある価値の毀損と同等の損失」として悪であり、避けられるべきことである、となる。
功利主義においても平均説、人格影響説をとる立場、更にカント主義的な立場からは、このような「機会損失」は現に存在する価値の損失に比べれば圧倒的に重要性を欠く。
ヨナスの場合、人は人類の存続に対する義務を負うが、特定の個人の誕生に対する義務は負わないし、個人は生まれてくる権利を持たない。
総量功利主義はこのような発想における実在と非実在（未実在）の非対称性を不整合性と批判するが、批判者はこの非対称性は決定的なものであるとする。
＊宇宙植民の可能性を考慮に入れた場合における疑義
フェルミ・パラドックスに対する一つの回答としてのグレート・フィルター仮説は、ある意味でボストロムの存亡リスク論のバリアントであり、およそ知的生命とその文明は宇宙に本格的に進出する前に滅びるか、あるいは滅びないとしても何らかの理由で宇宙に本格的に進出することはない、と考える。そうだとすれば現在の我々人類が他の知的生命・文明を観測できない理由が説明できると同時に、我々人類とその文明も宇宙に進出できるほど長くは存続できないだろう（あるいはひきこもることを選ぶだろう）、という予測が成り立つ。この理論に反駁するためには、知的生命と文明は宇宙にありふれている、というその背後仮説の否定、つまり少なくとも観察可能な範囲の宇宙には我々人類のほかに知的生命・文明は存在しない可能性が極めて高い、と考えねばならない。もちろん仮にそうだとしても我々人類が絶滅を回避できるという保証にはならないが、少なくとも絶滅は不可避ではないという保証にはなる。
そのように考えるならば、人類絶滅は無視できない可能性だが不可避ではない、とする長期主義は、フェルミ・パラドックスに対する否定的・懐疑的解答、「観察可能（到達可能）な範囲の宇宙には他に誰もいない」仮説にある程度コミットせざるを得ない。それゆえにまた長期主義者は宇宙植民に対する楽観的立場に立つ。
おそらくは以上のような論理に基づき、長期主義者はETとの接触可能性、並びにETの道徳的取扱いについて真剣に考慮していないが、それはどこまで正当化できるか？ 銀河系外植民の可能性を考慮に入れるならばそうはいっていられないのではないか？
この宇宙内に他にも複数の知性が存在するならば、その総体の幸福が目指されるべきであり、だとすれば可能な限りの植民地化が目標として掲げられるべきとは限らないのではないか？
そもそも光速度の壁を前提としたとき、恒星間文明はシングルトンの下に統合可能か？
シングルトンが不可能だとしたら、恒星間文明にどのような利点があるのか？ 小規模でも高速で運動できる惑星、恒星系レベルの文明にはできないが、大規模だがのろのろとしか動けない恒星間文明にならできる（にしかできない）こととは、いったい何か？
＊参考文献
ウィリアム・マッカスキル『見えない未来を変える「いま」』（みすず書房、2024）
Émile P. Torres. Human Extinction: A History of the Science and Ethics of Annihilation.（ Routledge, 2023）
稲葉振一郎「「コンタクト・パラドックス」とその同類たち」『明治学院大学社会学・社会福祉学研究』(161),1-31. https://meigaku.repo.nii.ac.jp/?action=repository_uri&item_id=3876&file_id=18&file_no=1
稲葉振一郎「巨大事故、グローバル災害と人類の未来」『明治学院大学社会学・社会福祉学研究』(160), 107-126.
https://meigaku.repo.nii.ac.jp/?action=repository_uri&item_id=3870&file_id=18&file_no=1
