ユヴァル・ノア・ハラリは「サピエンス全史」では、人類が情報と意思を共有することで、大規模集団の形成が可能となり、社会、国家の成立に至った歴史を描いた。「ホモ・デウス」では、人類がITとバイオ技術を手に入れることで、自然秩序を支配する神の領域に「侵入」しうることを予告した。近著”Nexus”では、情報技術の発展の中でのSNSによる社会の分断について語る。 

SNSでは参加者個人がown truth(自分の信じる真実)を作り上げ、同調する人たちとつながる（nexus）ことで、仮想空間の中に自分たちのドグマの「社会」が作られるとハラリは危惧する。過去には同じようなパターンでの、「魔女狩り」や「異端審判」の例がある。民主主義にとっての脅威であり、現実にこのような力が第２次トランプ政権を成立させた。そこではマスコミやアカデミーの世界でのような、過ちを認め自己修復する機能は欠けている。 

ハラリは、AI技術が人類社会の発展に貢献することは認めるが、大量なデータを効率的に集め分析する技術は、ナチズムやスターリニズムのような全体主義を大いに利することを危惧する。冷戦時代に、諜報部員が一生涯の勤務期間で集めて解析した情報量を、AIならば数時間で処理できると指摘する。中国などの中央集権的な体制で、AI技術が国民の監視や思想教育に使われるリスクが確かにある。商業用であれ統治用であれ、AIでの我々の「格付け」と分類も始まっている。

民主主義と全体主義がそれぞれ独自のAIアルゴリズムを発展させ、２つの陣営の中で諸国が結束する(nexus)ことで、世界の分断が起こることをハラリは予想する。冷戦時の「鉄のカーテン」を模して、それを「シリコンのカーテン」と呼ぶ。AIのアルゴリズムは人間の論理・思考のプロセスとは異質のものであり、ブラックボックスの中で情報を処理することでAIが独自の体制を形成しすることで、もう一つの「シリコンのカーテン」が出来る。民間企業のみならず、国家、グローバルのレベルでAI技術開発の規制、監督することが重要課題となる。

※ 本記事は金融ファクシミリ新聞2025年1月28日号「複眼」欄に投稿したものです。