トリスタン・ハリス


〔翻訳〕
木蔵(ぼくら)シャフェ君子Wisdom2.0Japan 共同創立者 )




    世界にマインドフルネスムーブメントを広げた国際カンファレンスWisdom2.0。
    2022年は「EMERGENCE」をテーマに開催されました。
    サンガ新社は、Wisdom2.0Japanのご協力のもと、皆様と共に考えていきたいセッションを4つピックアップしてお届けします。

    最終回となる第4回は、「シリコンバレーで最も良心に近い存在」と称されるトリスタン・ハリス氏です。ハリス氏は現在、Center for Humane Technology(センター・フォー・ヒューメイン・テクノロジー)でエグゼクティブディレクターを務め、テクノロジーを人間らしく再調整する事業に取り組んでいらっしゃいます。
    テクノロジーと共生しながら私たち人間が幸福に、そして叡智あるあり方で生きるために私たちはどのような方向性で努力をしていけばよいのか。そのヒントをハリス氏からうかがっていきましょう。


第1話


増幅する複雑性に取り残される人間

    世界の複雑性は指数関数的に増加しています。それに対して、私たちの対応能力──世の中の複雑性を理解し、対応し、それに見合った選択ができるという能力──はまったく追いついていません。
    それが「複雑性のギャップ(complexity gap)」です。

5talk-s.jpg 138.15 KB

トリスタン・ハリス氏



    サイバー攻撃、偽情報、世界的な金融リスク、過激派、新しい合成生物学。複雑性の問題にはさまざまなジャンルがあり、しかも相互に関連しています。
    たとえばロシアのウクライナ侵攻以前、核問題と世界的な金融リスクは別の問題だと考えられていなかったでしょうか。偽情報とサイバー攻撃もまったく別の問題だと考えられていなかったでしょうか。
    しかし実際はソーシャルメディアでロシアに圧力をかけ、ハッシュタグで世界中がプーチンという一個人を非難し、追い詰めたことで、核戦争の可能性が急速に高まりました。すべての問題は相互に関連していることが可視化されたのです。
    果たして私たちはそのような複雑な状況に対応できるのでしょうか?

    対応できるかどうかは、私たちの「複雑さを理解する能力」次第です。
    しかしテクノロジーの暴走に対して、我々の「複雑さを理解する能力」は低下する一方なのです。

テクノロジーの急成長に求められる叡智

    ドキュメンタリー映画「The Social Dilemma」(邦題「監視資本主義」。トリスタン氏が エミー賞を受賞した Netflix のドキュメンタリー)では、私たちがテクノロジーの急成長に追いついていないことによって「依存性」「怒り」「二極化」「注意散漫」などの副作用が起きていることを説明しました。

2-s.jpg 108.54 KB

    私たちがこの困難に立ち向かい、複雑性のギャップを埋めるための鍵はなんだと思いますか?
    実は「叡智(wisdom)」がその答えなのです。

世論を操作する増幅型プロパガンダ

    複雑性の世界のなかで、これまで私たちが大切にしてきた道徳的・哲学的概念──例えば表現の自由、言論の自由、プライバシーなどの意義が急速に損なわれています。
    大勢がプロパガンダについて語っています。ロシアのプロパガンダに、ウクライナのプロパガンダ。
    私の友人のルネ・ディレスタ(Renée DiResta)は増幅型プロパガンダ(Amplifaganda)について語りました。増幅型プロパガンダとは市民の発言をそのまま採用するやり方です。たとえば私がロシア人で、米国を操りたいならば、アメリカの国民の誰かが「カリフォルニアは合衆国から脱退すべきだ」と言うのを待ち、その発言のボリュームを増幅すればいい。これが増幅型プロパガンダです。
    これは明らかに情報操作です。こういった情報操作に対して、私たちは適切な概念・規制・文化で対応する必要があるのは明白でしょう。
    プライバシーの保護についてはいかがでしょうか。インターネット上にポップアップを設置して、「プライバシー規約を受け入れますか?」と聞き、「承諾する」「承諾する」「承諾する」「承諾する」とただクリックさせればそれでよいのでしょうか? そうではありませんね。それだけではプライバシー保護の本当の目的を果たすことはできないのです。

AIに読み盗られる個人の特性

    現代はAIの新時代です。2、3年前の論文にこういうものがありました。人が画面上でどのようにマウスを動かすかをAIが観察するだけで、その人のビッグファイブ(訳注:アメリカの心理学者ルイス・R・ゴールドバーグが提唱した「特性5因子論」)──すなわち「Openness(開放性)」「Conscientiousness(誠実性)」「Extraversion(外向性)」「Agreeableness(協調性)」「Neuroticism(神経症的傾向)」を約70%の精度で予測できるのだと。
    Cambridge Analyticaの事件(訳注:Facebookのユーザーデータを不正入手し、アメリカ大統領選の操作に用いていた事件)は、個人のデータにアクセスできれば性格特性を盗むことができるという話でした。
    AIは人間よりもはるかに人の表情からさまざまなことを読み取ることもできます。私たちは他人の顔を見て、目の動きや表情からその人の気持ちや状態を読み取ります。ところが、AIを人の顔に向けると、皮膚の下を流れる血液まで察知することができます。脈を打つたびにわずかに変わる色を観察して、その人が今どれくらいストレスを感じているのかまで知ることができるのです。
    皆さんには現実世界にこのような力が動いていることを意識してほしいのです。

テクノロジーに弱体化される人間

    最近ではメタバースも加わり、テクノロジーは指数関数的に進化しています。
「神のような愛、慎重さ、叡智を持たずして、神のような力を持ってはならない」これは、私の友人であるダニエル・シュマッテンバーガー(Daniel Schmachtenberger)の言葉です。私とダニエルがポッドキャストで配信した”a problem well stated is a problem half solved”(良く定義された問題は、半分解決されたも同じ)というエピソード(https://your-undivided-attention.simplecast.com/episodes/a-problem-well-stated-is-half-solved-0nI8m2G3)を聞いてください。間違いなく皆さんの役に立つと思います。

    テクノロジーは私たちの叡智(wisdom)に関する能力を損なわせます。
    このグラフはドキュメンタリー映画「The Social Dilemma」で示したグラフです。
6-s.jpg 97.52 KB

    複雑さを理解する能力の低下がお分かりになりますか。
    テクノロジーが人間の能力を凌駕し、人間の仕事を奪い、人間よりも賢くなっていく。どう考えてもテクノロジーのデザインが間違っていたと言わざるを得ません。今の私たちはテクノロジーが人間の能力を弱体化させる前段階をただ傍観しているだけなのです。

ハックされる人間の脆弱性

    人間には認知の限界があります。簡単な例を挙げれば、「私たちの脳は『7プラスマイナス2』の情報は短期記憶で保持できるが、それを超えると情報過多だと感じる」というようなものです。
    スタンフォード大学のアナ・レムケ(Anna Lembke)は「SNSの社会的ジレンマ」の研究で、ドーパミンのシステムをハックすると依存症になることを発見しました。
    SNSなどの社会的承認欲求をハックすると、インフルエンサー文化が生まれます。誰もがインフルエンサーになりたがり、自分がどれだけ影響力を持っているか、どれだけ魅力的かをチェックするようになるのです。
    確証バイアス(confirmation bias)をハックすると、フェイクニュースの問題になります。フェイクニュースは確証バイアスの塊なのです。
    人間の脆弱性がハックされると、その人が思い込んでいる世界が展開されていきます。
    怒りや分断、 信頼をハックするには、ボットやディープフェイクが有効です。
    今の世の中は人間の脆弱性をハッキングした結果です。貪欲、嫌悪、妄想、恐怖、嫉妬というアンチウィズダム(anti-wisdom)が統合されると相互につながったシステムが生まれます。これは「人間の格下げ(human downgrading)」あるいは「文化の気候変動(the climate change of culture)」です。アンチウィズダムは互いに補強し合って、私たちの複雑さを理解する能力を低下させるのです。
10-s.jpg 93 KB

    このような混乱した状況をこれ以上作り出してはいけません。
    そのために、我々は新たなモデルを作らなければいけないのです。

(第2回につづく)


2022年4月7日    Wisdom2.0 San Francisco現地会場&ライブストリームにて開催
翻訳    木蔵シャフェ君子
構成    中田亜希


Wisdom2.0サンフランシスコ記事一覧


第1回 ジョン・カバット・ジン


第2回 シェリー・ティギェルスキー
第3回 ポール・ホーケン
第4回 トリスタン・ハリス


Wisdom2.0Japanでは、2023年も国際カンファレンスをはじめ、さまざまなイベントを予定しております。
公式サイト    https://wisdom2japan.com/
フェイスブック    https://www.facebook.com/profile.php?id=100049450316982