・ ・ ・
関連ブログを6つ立ち上げる。プロフィールに情報。
・ ・ {東山道・美濃国・百姓の次男・栗山正博}・
2023年2月3日 YAHOO!JAPANニュース クーリエ・ジャポン「人工知能が「民主主義を破壊する日」が近づいている
ニューヨークのタイムズスクエア。アメリカでは社会の分断が加速している Photo: Alexander Spatari / Getty Images
「生成AI」の登場によって、社会はより分断されていく──。発端となっている米国に、その自覚はあるのだろうか。朝日新聞元政治部長の薬師寺克行氏が解説する。
「生成AI」が大混乱を招く
米国のコンサルティング会社「ユーラシア・グループ」が年初に発表するリポート「世界の10大リスク」は毎年、注目され話題にもなる。マクロ的視点から世界情勢を見るうえで参考になるとともに、読み物としても面白いからだろう。
2023年の1位は言うまでもなくロシアで、タイトルは「ならず者国家ロシア」だった。「ロシアは、グローバルプレーヤーから世界で最も危険な“ならず者国家”へと変貌し、ヨーロッパ、米国、そして世界全体にとって深刻な安全保障上の脅威となるだろう」と予測している。
2位はこれも大方の予想通り中国で、タイトルは「『絶対的権力者』習近平」だ。昨年の党大会で権力集中に成功した習近平の外交政策について「国家主義的な見解と自己主張の強いスタイル」が世界にとって大きなリスクであるとしている。
そして3位のタイトルは「大混乱生成兵器」となっている。これだけでは何を意味しているのかわからないが、具体的には「生成AI」を取り上げている。昨年後半あたりから、IT産業界や多くのメディアが注目し、期待を込めて取り上げている最先端技術だ。それをユーラシア・グループはリスクとしているのである。
「生成AI」とは、人間の簡単な指示によって音楽や文章、画像などを短時間で大量に創り出すことができるAI(人工知能)で、既に一部は実用化されている。
これまでのAIは人間の指示を認識し反応するにとどまっていた。それが人間の指示を受けてその意味をとらえて指示に合った画像や文章を作成するというのだ。「大混乱生成兵器」というタイトルも「生成AI」が作ったものだという。人工知能が新たな段階に入ったといえるだろう。
ところがユーラシア・グループは、「これらの進歩は、AIが人々を操って政治的混乱を引き起こす能力を一気に高める。(略)ほとんどの市民が事実とフィクションを区別できなくなる。偽情報が横行し、社会的連帯、商業、民主主義の基盤である信頼がさらに損なわれる」などと、生成AIの技術を最大のリスクの一つに挙げているのである。
「フィルターバブル」が加速する
実は米国発のインターネット技術はすでに民主主義を傷つけており、生成AIが新たな危機というわけではない。その一つがGAFAと呼ばれるビッグテック企業などが世界中に広げているSNSである。
個人が手軽に情報交換できるSNSの普及は著しく、2022年の統計ではすでに世界中で人口の約6割に当たる46.2億人が利用しているという。そしてSNSの機能は単なる情報交換にとどまらない。かねてSNSは人々の思考や言動に影響を与え、それが社会の分断を加速し、民主主義を危機的状況に陥れているなどと問題が指摘されている。
そのメカニズムは以下のようになっている。
SNSにはアルゴリズムという機能がついている。ユーザーが何か情報を検索した時に、表示される結果はユーザーのこれまでの個人情報を踏まえて個々に便利なもの、好みにあったものが自動的に選ばれている。テーマが社会問題や政治に関連するものであれば、ユーザーの考えや支持政党に合わせたものが表示される仕組みだ。
その結果、ユーザーは知らず知らずのうちに自分と似たような考えばかりに接することになり、異なる意見、反対の主張などに接することがなくなる。好みの情報ばかりが選ばれる状態を「フィルターバブル」と呼び、その結果、自分と同じ意見や主張ばかりに接する環境を、閉じた小部屋で音が反響する物理現象にたとえて「エコーチェンバー」と呼ぶ。
たとえば米国で共和党支持者がSNSを開けば、毎日、共和党礼賛と民主党批判の情報が優先的に表示される。その結果、ユーザーは自分の考えは世の中の主流であり正しいのだと確信を強める。しかも日常的にSNSなどで接するのはそうした似たような考えの持ち主ばかりとなっていく。もちろん同じことは民主党支持者にも起きる。
ユーザーは一つ一つの情報の信ぴょう性を確認などしない。仲間内で互いに褒め合い相槌を打つ一方で、反対の意見には聞く耳を持たないばかりか、完全否定し敵対心をあらわにするようになる。こうして政治的に対立する集団が形成され社会が二極化する「集団分極化」が劇的に進むのである。
こうした熱狂的な集団をバックに選挙で当選した政治家は、極論を言わなければ支持者が離れていく。議会活動で対立勢力に妥協や譲歩などしようものなら支持者から激しい非難を浴びることになるだろう。それが今の米国の政治や社会の現実だ。
ただし、これは米国に限った話ではない。同じ機能を持つSNSがビッグテックによって世界中で46億人に広まっている。
ユーラシア・グループももちろんこのことがリスクであることは理解しており、2023年「世界の10大リスク」の前文で、「1989年、米国は民主主義の世界最大の輸出国だった。それが今日、米国は民主主義を弱体化させるツールの最大の輸出国となっている。アルゴリズムやソーシャルメディア・プラットフォームが利益を最大化させながら市民社会の構造を破壊し、前例のない政治的分裂、混乱、機能不全を引き起こしているのは事実だ」と指摘している。
政治がより不安定な世界へ……
今年1月、ブラジルの首都ブラジリアで前年に行われた大統領選挙の結果に不満を持つ前大統領支持者らが大統領府、連邦議会、そして最高裁判所を襲撃した事件は、2021年1月にワシントンで起きたトランプ前大統領支持者らによる米国連邦議会襲撃事件同様、SNSが生み出した暴動であり、民主主義の破壊行為であった。今後、同じような社会の分断、それに伴う集団的な暴力行為がどの国で起きてもおかしくない。
もちろんアルゴリズムなどの最先端技術は、社会分断など政治的目的のために開発されたものではない。多くのユーザーを獲得するためにユーザーの利便性を追求した結果の技術である。利潤追求という企業行動の目的からすれば理にかなっているといえる。
その事が米社会の分断を生み出したもう一つの要因につながっている。利潤追求を至上命題とする米国流の資本主義の産物でもある極端な所得格差、貧富の格差だ。コロナ禍の2020年、米国の上位1%の人たちは1年間で約4兆ドルもの資産を増やしたが、この増加分だけでも下位50%の人たちの総資産を上回ったという。社会の分断の背景にこうした異常な格差があり、上位に属しているのがビッグテックの創設者たちである。
米国発の技術が世界各国で米国と同じように機能し、社会の分断、対立を生むと国際社会はどうなるだろうか。
各国内の対立要因は所得格差だけではない。宗教、民族、人種などさまざまである。フィルターバブルが機能しエコーチェンバーが生まれた時、政治的分断や対立も生まれる。それまでは可能だった合意形成が難しくなり対立が激しくなると、権力の正統性が揺らぎ政権が不安定化していく。
そうした状況は当然外交の世界に影響を与える。各国の政権は権力維持のため自国の利益を優先する自国中心主義に陥り、即物的な成果を求めるとともに国際協調を軽視するだろう。これまでの政権の対外政策を否定し継続性が弱まる可能性もある。その結果、国家間の外交関係が不安定化する。自国中心主義の結果、貿易や投資などの経済関係はさまざまな摩擦が生じ、縮小していく。
最悪の場合は世界経済がブロック化するかもしれない。あるいは軍事力を使った衝突さえ起きかねない。悪夢のような国際社会となりうるのである。
科学技術の発展は人類に多大な貢献をしてきたし、これからもしていくだろう。同時に使い方を誤り絶望的な悲劇を生んでいることも事実だ。だからこそ、ユーラシア・グループが世界の10大リスクの一つにSNSなど現在普及している技術の次のステップである生成AIを挙げたのだ。それは核兵器や最先端兵器などの技術のように戦場を舞台に使われるのではなく、我々の日常生活に入り込んでいるだけに余計に厄介だ。
ユーラシア・グループのレポートは「AI により超富豪となった者たちは世界を不安定化させる点でプーチンや習近平より大きな脅威なのだろうか?」と疑問を投げかけている。
人間の心の中に入り込み、人々の思考や言動を変えてしまう技術がすでに目の前に出現していることを忘れてはならない。
Katsuyuki Yakushiji
・ ・ ・