第16回サイゼミ
2024年4月8日に埼玉県の行田でブロッコリーマンが経営するカフェのスペースを借りて第16回サイゼミを催した（参加13人）。都内から埼玉の北端まで2時間くらいかかるのでだいぶ小旅行感があり、ついでに現地の蕎麦やフライを楽しんでいる人が多かった。
テーマは最近出版された東浩紀『訂正可能性の哲学』について。2年半前くらいに第11回サイゼミでやった『観光客の哲学』の続編でもある。書籍の内容は要約しない前提で主に俺が思ったことについて書く。
また、俺は『訂正可能性の哲学』だけでなく実践編と位置付けられている『訂正する力』と東がデータサイエンスパートで参照している『数学破壊兵器』も読んでいる。落合陽一の『デジタルネイチャー』やルソー全般（『人間不平等起源論』など）を読んできている人もいた。
補足514：『あなたを支配し、社会を破壊する、AI・ビッグデータの罠』の原題は"weapons of math destruction（数学破壊兵器）"であり、"weapons of mass destruction（大量破壊兵器）"とかけたオシャレなタイトルなのだが、和訳版では三面記事のようなダサいタイトルにされてしまった。どうにもダサいので、東に倣って以後も『数学破壊兵器』と表記する。
俺の感想
訂正可能性自体はかなり良い
訂正可能性という概念自体はとても良かったと思う。当たり前と言えば当たり前だが、誰かがきちんと言葉にする価値が高いタイプの言説だ。
家族や観光客や言語ゲームや固有名など様々な概念を総動員して説明に努めているが、個人的には自然科学における反証可能性との対応と、批評という営みとのアナロジーが最も納得しやすかった。
唯一解に辿り着こうとするのはナンセンスなので漸近的にアップデートできれば良しというのは大抵の実践において妥当な態度だし、既存の知見をアクロバティックに再解釈して現状に対して有効な打ち手となる解釈を無理やり引き出すのは東自身が得意としているやり方でもあり、彼の哲学の集大成と位置付けるのも頷ける。
また問題意識として、いまどき開放性と閉鎖性の二項対立は失効しているということにも同意できる。いまや飲み会で喋れば周囲数十メートル、discordで発言すれば親しい国内の友人数百キロメートル、SNSで外国語を使って発信すれば地球の裏側までというように発言の範囲が可変になる時代だ。
グローバリゼーションで繋がってしまった世界の中でもはや開放された先の外部など無いに等しく、それより動的にスケールできる連帯の感覚をどうマネジメントするのかという方が本質。連帯範囲がすぐに変動する状況で一貫性を堅持しようとする方がナンセンスであり、この範囲ではこれ、その範囲ではそれと逐次訂正していく方がむしろ健全な態度だと常々思っている。
説得力と実現手段は怪しめ……
一方で、抽象的な理論立てとしては優れる代わりに具体的な説得力が薄弱なきらいはある。
比喩が巧みなのでつい頷いてしまいそうになるが、冷静に考えると訂正可能性を提示する議論はかなり抽象的なレベルに留まっている。ウィトゲンシュタインやクリプキから引っ張ってきているアナロジーはもちろん、一見すると身近に思える「家族」や「観光客」も日常的な対象というよりは哲学的なイメージに過ぎない。よって「実際のところ、訂正可能性があると具体的には何がどういう風に嬉しいのか」という説得には改めて現実との接点を持たせなければならない。
訂正可能性の有用性を示すための最大仮想敵として「人工知能民主主義」が措定されているが、これははっきり言って藁人形とのシャドーボクシングとしか思えなかった。これは俺の主観も混じっていることを承知であえて言うが、カーツワイルのシンギュラリティ論なんて良くてSF文学、悪くて情報商材くらいのものだ。最初から最後まで人文系とビジネス書の内輪ネタという認識で、「理工系から新しい物語が台頭してきた」という東の評は過大評価にも程がある。
確かにAIについての理念的な極論として必要な物語ではあるが、切実な人工知能開発の現場がそんなものを目指しているわけがないし、映画のプロットを論駁したところで現実に生まれる説得力は特にない。最大限好意的に見れば「情報社会が行きつくかもしれない一つの未来に対する警鐘」くらいに理解できなくもないが、それでも『観光客の哲学』と同様に理系トピックの理解に乏しく、特にビッグデータ分析の解釈が根本的に怪しいということをまた後で詳しく書く。
補足515：『訂正する力』まで読むと、本当はコロナ禍での人々の空気感に対して問題意識を持っていただけなのに間違えて情報技術を仮想敵にしてしまったのでは？ と感じる。
更に言えば、結局肝心なところでは「人間の主体性や例外性」に至上の価値を与えるいかにも現代的な哲学者らしい愛着を無根拠で盾にするところがやや鼻につく。「人間は満足した豚ではいけない」という前提をインテリは自明にしていることが多いが、俺は加齢の影響で確かにそこにある大衆の幸福を破棄することには説明が必要だと感じるようになった。言い換えると、漫然と怠惰に生きている大勢の幸福を犠牲にしてまで例外的な主体性を擁立しようとするのはかなり反社会的な提言であるようにも感じる。
また、「現実的に訂正可能性をどのように運用するのか」という具体的な手段が不明瞭であることも気になった。訂正可能性を意識するシステムや人々が存在することと、実際に何をどのように訂正していくのかという方向性はまた別の話だ。「実は坂上田村麻呂は黒人だった」などという無秩序な訂正を繰り返しても仕方ないわけで、陰謀論や歴史修正主義に陥らないためにはそれなりの議論が追加で要求されるように思われる。最終章ではアメリカ統治を参照しながら「喧騒」というものが支持されているが、それは頓挫した1970年前後の学生運動や無益なお祭りと化したハッシュタグデモと何が違うのかがよくわからなかった。
だが、『訂正する力』でフォローが効いている
ただ、いま書いた不満のうちで理系パートへのもの以外は『訂正する力』でかなりフォローされて概ねクリアな回答が挙げられている。
全体として、『訂正する力』では『訂正可能性の哲学』の理系パートが削除されると共に、冗長な割には得るものが少なかった『新エロイーズ』の「訂正可能性批評」もオミットされている。個人的には『訂正可能性の哲学』から悪い部分を弾いて良い部分を追加した完全版が『訂正する力』という印象で、第二部で変に議論をこねくり回して迷走してしまった『訂正可能性の哲学』に比べ、『訂正する力』は問題意識の原動力と実体験に基づいた熱いハートがストレートに伝わってくる。
まず具体的な説得力については、いかにも新書らしい軽やかな筆致で地に足の着いた日本社会の様々な問題点が挙げられている。全体的にはネットの空気感とネット化した実社会みたいなところが中心で、キャンセルカルチャーや炎上や老いのような現代的なトピックには頷ける（少なくとも『訂正可能性の哲学』で人工知能民主主義を仮想敵にしていた論旨よりはよほど良い）。
特に中盤でしれっと出てくる、世間で本当に通用する言説は「実存・時事・理論」の三要素を持っているという理屈には唸らされた。『訂正する力』には全て揃っているが『訂正可能性の哲学』は理論に偏重しているので魅力を欠くという納得いく説明を東自身がしてくれている。最初からこれを出してくれ！
具体的にどのような手段が可能なのかについても、東自身が辿ってきたゲンロンカフェでの事例を元にしてコミュニティ運営上での訂正可能性の力が明確に示されている。強いて言えば規模感の問題、つまり小規模な身内コミュニティで有益だった考え方が国政シーンでそのまま通用するのかという疑問はあるものの、明確な成功事例があることは説得力を大きく増す。
ビッグデータ分析は訂正不可能ではない
シンギュラリティ論を真に受けていることへの不満は既に書いたが、コロナ禍でのパニックを切り口にした情報技術批判については大枠で同意するし、批判的に検討されて然るべきだと思う。個人的には疫学や通信のようなテクニカルな事柄に関してはこれからも不断にアップデートされ続けると信じているが、かといって社会実装したときに理想通りに上手く動くわけではないというのは一つの学びだ。
ただそれを踏まえても、ビッグデータ分析を批判する第七章については適切でない記述があまりにも多い。
補足516：「ビッグデータ」というワード自体は特に学術的なものではないし、「既存のシステムでは記録や分析ができないほど巨大なデータ群（224ページ）」という東の認識で問題ないので以後もそれを踏襲する。ただ基本的には別にビッグデータだからといって統計分析の理論的に全く異なることが起きるわけではないのだが、ビッグデータに絞って目の敵にしている東がその認識を正しく持っているのかどうかはやや疑わしい。データサイエンスの手法は対象が数十人のクラスルームだろうと数十億人の地球人口だろうと全く同じように適用できる（もちろんサーバー負荷や計算量は桁違いなので技術的には色々と変わってくる）。
ビッグデータ分析批判において東が参照したオニールの『数学破壊兵器』も読んだが、そこで批判されているのはあくまでも「悪いビッグデータ分析モデル」に過ぎない。ビッグデータ分析モデルにも良いものと悪いものがあり、それは精度や社会的悪性という観点から明確に区別できるので、悪いビッグデータ分析ではなく良いビッグデータ分析を行いましょうという論旨だ。もともとビッグデータ分析全体への本質的な批判には当たらないのだが、東は悪いビッグデータ分析モデルへの批判のみをチェリーピッキングしてビッグデータ分析全般の批判に繋げているように感じる。
例えば一部の悪いモデルを全てのモデルと混同した結果発せられた、不可解な文章が下記である。東はこの文章を書いていて論理的におかしいと思わなかったのだろうか？
あるひとの資産状況をビッグデータ分析によって明らかにするとは、（中略）じつは当人の資産そのものを調べることを意味しない。（中略）一般にそのようなセンシティブな情報は厳重に守られている。だからビッグデータの分析者は、（中略）類似した生活を送っている人々の資産状況と照合し、数学的なモデルをつくって目的の人物の資産状況を推測する。
（『訂正可能性の哲学』228ページ、太字は引用に伴って付与）
確かにデータ分析において、当該個人の資産状況そのものではなく類似した生活を送っている人々の資産状況と照合して推測することは大いに有り得る。だが、それは東自身が正しく指摘しているように「そのようなセンシティブな情報は厳重に守られている」からなのだ。
そしてセンシティブな情報が厳重に守られているかどうかは、データがビッグであるかスモールであるかは特に関係がない。ビッグデータでもセンシティブな情報が取れることがあれば、逆にスモールデータでセンシティブな情報が取れないこともあるだろう。よってこの段落における「ビッグデータ」という単語は全て「センシティブなデータを含まないデータ」に置き換えるべきで、「ビッグデータ」というワードで語る意味がわからない。
好意的に読めば、恐らく東は「大量のデータがある状況では、取得できないセンシティブデータについても推測が効くようになるため、類似データによる分析が横行する」という認識の下で「ビッグデータ分析≒代理データ分析」というイメージを持っているのだろう。確かにそういう傾向はあるかもしれないが、別に論理的に正しいわけではなく運用の問題に過ぎない。少なくともSF的な未来像まで踏まえてビッグデータの本性をそのように語る以下の段落は明らかに言い過ぎである。
ビッグデータ分析は、個人を対象とした予測はできず、群れを対象とした予測しか提供することができない。
ビッグデータ分析は、本性上、例外をつねに群れの一部として取り込み、その例外性を消去してしまうことを意味している。
（『訂正可能性の哲学』231ページ、太字は引用に伴って付与）
具体的な例を挙げれば、まさしく人工知能民主主義のような統治の局面においてはこの問題は勝手にクリアされるだろう。確かに企業活動においてはセンシティブな個人情報を見ることができないため代理データを使わずにはいられないが、ビッグデータ分析が覇権を握る世界では筒抜けになった個人情報をそのまま使えばよいだけだ（プライバシー上の問題が大いにあるとは俺も思うが、それはまた別の話題である）。
なお「群れの一部として取り込む」というのはある意味では統計学の本質なのでどの粒度で読むべきかは難しいところだが、少なくとも東自身が「個人を見る分析」として認めているFICOと同程度には間違いなく可能である。例えば犯罪可能性を見たければ人種や出身地を見る前にその人の犯罪履歴を見ればよい。それがFICOスコアと同様に個人に紐づいた合理的で透明な予測であることには東も同意するだろう。
補足517：厳密に言えば、FICOも評価関数からフィードバックを回すのであれば普通に代理データを利用した分析ではあって、「どのくらい代理データに頼るか」という程度問題に過ぎない。ただ回帰分析であれば個人を見る分析・クラスタリングであれば群れを見る分析みたいなイメージは一定わからないのでもないので、東の記述をそのまま尊重してそのように書いている。ちなみに東はFICOを古典的なスコアリングとしてビッグデータ分析と対比させているが、FICOだって大規模に運用するならばビッグデータ分析になるだろうし、ビッグデータを扱うからといってFICO的な分析ができないわけではない（『数学破壊兵器』で対比されているのはFICOとe-スコアであり、FICOとビッグデータ分析ではない）。
補足518：個人情報を正しく使った結果として偏見が助長されて悪い未来に向かう可能性は大いにある。例えば過去に軽犯罪を犯した個人が今後に本格的な犯罪を犯す確率はそれなりに高いと思われるが、それを受けて「一度軽犯罪を犯した者は永遠に犯罪者予備軍として監視する」という方針を立ててしまえば、結局は治安が悪く軽犯罪でもしなければ生きていられない地域の出身者を差別することになるだろう。しかし、そうした背景を認識した上で逆に全体の犯罪を抑止するために軽犯罪率の高い地域の治安や教育の向上にリソースを割いていくような非差別的で「正しい」方針も有り得る。分析結果の運用は分析そのものとは別の意志に委ねられており、やはり本性上で偏見を助長し続けるわけではない。これは『数学破壊兵器』でも主張されていることだ。
何にせよ、「ビッグデータ分析は代理データを用いるため訂正可能性を持たない」という東の批判は本質的なものではない。乱暴に設計されてPDCAがちゃんと回っていない悪いモデルは現実を直視しないので本来は訂正すべき状況でも訂正が機能しないというだけの話だ。きちんと現実を反映し透明性の高い健全なモデルにおいては訂正可能性は機能する。
例えば東は「貧困層の出身者がどれだけ頑張って稼いでも貧困層と見做される状況は変わらない（訂正されない）」という事例を挙げているが、それは現実を直視しない低クオリティなモデルを使っているに過ぎない。きちんと現実を見るモデリングであれば、「こいつは貧困の民かと思っていたら実は稼ぐ能力があった」「ここは貧困地域かと思っていたらきちんと稼ぐやつが生まれるポテンシャルがあった」と遡行的な訂正が働く余地は十分にある。
そもそも個人について何らかの予測を行う以上、データサイエンティストにとってもその予測は合致しているに越したことはない（例外者とやらの需要とデータサイエンティスト側の意志は実はそんなに矛盾していない）。例外性をきちんと検出する異常検出や、対象のデータ傾向そのものが変わった場合にモデルをアジャストするデータドリフトの理論も立派に存在する。
とはいえ、ここで東が仮想敵にしているのが「人工知能民主主義」というSFであることがまた正面からの批判を難しくする。上記のような健全なモデリングを行い続けるためには、現実問題として倫理的な規範をきちんと備えた質の高いデータサイエンティストが不断にモデルを更新し続ける必要がある。だから人間の手が一切入らない完全自動化システムであれば確かにモデルが改善されずにディストピアと化す可能性はそれなりにあり、もし仮に東が現実的な統治ではなくアニメの話をしているのであれば彼のビッグデータ分析批判はそれなりには正当なものになる。
結局、ビッグデータ分析にも人間の介入は必須であるというところで東とオニールの意見が異なるわけではない。だがそれは東が言うようにビッグデータ分析には本性上の悪性と限界があるからではなく、ビッグデータ分析には良い使い方と悪い使い方があるのでそのポテンシャルを引き出すには人の手が必要というだけだ。
オニールは適切なフィードバックを与えることや人間の価値観を反映することによる改善策をはっきりと提案しており、特に医者の「ヒポクラテスの誓い」になぞらえてデータサイエンティストの倫理規範を制定するという提案には首がもげるまで頷ける（実際、データサイエンティスト検定などでは分析者が持つべき規範意識がそれなりに言語化されたりもしている）。
会で出たトピック
サイゼミで出た話の中で俺が「おお」と思ったトピックについて。
クワス算はアナロジーか？（第二章）
東がたびたび持ち出す「家族的類似」や「固有名」や「クワス算」といった分析哲学用語は単なるアナロジーなのか、それとも本質的に論と接続するのかについて。
俺はそれらは単に訂正可能性や家族概念と挙動が似ている概念をいくつか箪笥から持ち出してきて質の高い比喩として使っているだけで、別にカードゲームのルールでも何でも構わないものと思って読んでいた。しかし「言語運用上で本質的にクワス算が避けられないという立場を取るならば、コミュニケーション自体が訂正可能性を本質的に内包していることになる（訂正可能性論の本性上で有用性を主張できる）」という意見があり、そちらの方が正しい読みっぽいと思った。言い換えると、ここでクワス算などの話を挟むことによって、訂正可能性の議論全体において想定する視点を「実はこう思っている」という内面的な整合性よりも「外からはこう見える」という外面的な見え方にシフトするとも言える。
なおプロゲーマーから「カードゲームのルールはここ20年くらいでクワス算とは逆向きの方向に進んできている」という与太話があり、それはなかなか面白かった。特に遊戯王などの古参ホビーカードゲームで顕著だが、初期はそもそもルールが曖昧な中で「こういう風に見立てる」という見え方を重視するパフォーマンスとしての側面が大きく、ルール適用は言ったもんがちという状況があった（「68+57は5かもしれない」と大声で言ったやつが強い）。だがデジタル化や競技化に伴ってルール整備が進むにつれて整合したルール文書から演繹的に裁定が下される方向にシフトしていき、内在的なルールが厳密に運営されるようになっている（「68+57=125」を証明する公理がルールブックに記載されているので覆せない）。
ここからTRPGなどにまで射程を広げて、「内面的な整合性と外面的な見えのどちらに力点があるのか」という視点から、そこで行われている言語のやり取りに焦点を当ててルール運用を調べることでクワス算の実践を見出すというのもなかなか面白そうだ。
実際の観光客は実際の誤配をもたらすか？（第三章）
東が理論の中核に置いている「観光客」や「家族」は現実のそれらを直接指しているというよりは高度に抽象化されたイメージではないか。つまり実際に観光客の誘致政策とかを推し進めたところで自治体運営などが上手くいくわけではないのでは（ということには東も同意するのでは）と俺は思っていたのだが、観光地でバリスタをしている人から「いや実際に観光客は誤配する」という反論があってそうなんだと思った。
東の論ではあまり触れられていない点として、観光客は地元のしがらみから解放されているために本音を喋りやすいので（会社の悪口や偏った政治思想をどれだけ喋ってもその場限りで被害が返ってこないので）、比較的ラディカルなことを言うインセンティブがあるらしい。それによって地元の有様などに対して正直ベースの新たな視座が提供されるというのは現実的にも有り得そうだ。
ローティの偶然性はロールズの偶然性と逆？（第四章）
ローティや東が想定する偶然性は「今ここでこのポジションに生まれてしまったことの偶然性」だが、同様に出生の必然性を否定する立場を取っていると見做せるロールズの無知のヴェール論においては、「まだどのポジションに生まれてくるのか全くわからない」という本質的に無知な状況を扱っている。
つまり時系列で言えば、ロールズが出生前、間に生誕を挟んで、ローティや東が出生後という順序になる。ロールズは生まれる前のポジションに関する予測（の失敗）として事前の思考実験を扱うのに対し、ローティや東は生まれてしまったあとの介入（の失敗）として事後的な実感を扱っている。
これによって偶然性に対するスタンスが大筋では類似しながらも細部は微妙に分かれてきており、ロールズの論では完全にゼロベースでフラットな正義へと繋がるのに対して、ローティや東の論では再帰的に拡大する余地はありながらも相対的に保守に寄った連帯に近付く。
制約条件としての一般意志（第六章）
元々東のルソー解釈を読んでいて不明瞭だったのは、一般意志が中身の充填されない高度に形式的なものとしてしか語られないことである。
つまり途中までは「（特殊意志の集まりである）全体意志とルソーの言う一般意志は内容的に異なっている」という具体的な違いに言及していながら、結局のところ「ルソーの一般意志は社会が成立してしまったあとに遡行的に見出される」という形式的な過程についてしか語られないため、問いと答えが対応していないというか、誤魔化された感を抱いていた。少なくとも見かけ上は一般意志のように挙動できるものとして「統計」と「無意識」の二つが挙げられているが、それはいわば一般意志の失敗ケースであって、成功ケースではどのような中身が充填されるのかはルソーも東も語っていない。
ただ、会の中で「一般意志とは理論内容というよりは制約条件ではないか」という指摘があり、それは確かに納得できた。俺は理系なのでシャノンの情報理論や熱力学の基本法則などを思い出すと非常に理解しやすい。そういう分野では「この状況での伝達効率は理論上でMAX80%までは出ることはわかっているが、最大効率の具体的な達成手段はまだ全然わからない」というところからスタートし、応用系の工学者などが頑張って伝達効率を50%→60%→70%→78%→79.9%（この辺が理論天井なのでそろそろ研究をやめる）という具合に上げていくという状況が割とよくある。一般意志もそのように示された条件に過ぎず、中身がどう充填されるのかは様々なケースを個別検討すればよいし、理想例が出ないとしても訂正し続けることに意味があるということでアナロジカルに了解できる。
参加者のレポ
他の人のが更新されたら随時更新
