JOIさんが指摘する「アルゴリズムが増長する経済格差」 – シンギュラリティの罠とは? #1

 

僕が委員として参加していた金融庁のフィンテックベンチャーの有識者会議の座長を務められいるMITメディアラボ所長の伊藤穰一さん(通称:JOI)が、WIREDの英語版に、素晴らしい寄稿をされていましたので、その要約と、僕の考えをまとめておきます。

原文はこちら

要点は、以下の通りです。

  • 僕らの社会には、「アルゴリズムに潜むバイアス」がある。高度な数学モデルによって、社会マイノリティが経済的に裕福になることを阻害する仕組みがあるのである
  • 米国における保険会社のビジネスはその典型例と呼べる。通称、レッドライニングと呼ばれ、保険会社は黒人やヒスパニック系といった人種的マイノリティーへの商品販売を拒んでいるわけではなかったが、業界ではレッドライニングを含む明らかに差別的な商慣行が許容され、その結果、保険がなければ金融機関の融資は受けられないため、こうした地域に住む人は住宅購入や起業が実質的に不可能だった。
  • そして、このレッドライニングの考え方は、今尚、あからさまに行われている。女性は男性より平均寿命が長いのだから年金保険料を多く払うべき、黒人コミュニティは犯罪の発生率が高いから黒人の損害保険料率を高く設定することは許されるなど。これは、手ごわいのは、差別は複雑な数学や統計に包んでうまく隠されており、専門家でなければ理解して反論するのはほとんど不可能であること。ソーシャルメディアにもこれに近い性質がある。
  • リスク評価システムでは、非白人は再犯率が高いとの予測が出る。富裕層の住むエリアに逮捕者が少ないからといって、富裕層は貧困層と比べてマリファナを吸う頻度が低いということにはならない。これは単純に、こうしたエリアには警察が少ないというだけの話。当然のことだが、逆に警察が目を光らせている貧困地区に住んでいれば、再逮捕の可能性は高くなる。こうして負のループが形成されていく。
  • 人々が関与できるメカニズムが重要である。これがなければ、アルゴリズムによって人が評価されていく社会は、ますます経済格差を増長させるであろう。

とても鋭い見解だと思います。さすが、JOIさんです。これこそが、以前から僕がこのブログで伝えている「トークンエコノミーにおける評価経済の作り方を間違えると、僕らの世の中はディストピア(生き地獄)になってしまう」という話に完璧に繋がってくるのですね。僕は、これを「シンギュラリティの罠」と呼んでいます。

シンギュラリティについては、こちらにまとめています。AI(人口知能)が人の働き方を変えていく時代に生きている僕らにとっては、とても影響力のある言葉なんですよ。

https://lifeforearth.com/?p=2871

アルゴリズムとは、一言で言えば、人が作り出す人工知能と捉えてください。その知能が決めたルールにしたがって、僕らが評価されるということです。例えば、Googleなどの検索エンジンもアルゴリズムで、僕らのサイトを評価して、ランキング化して、検索結果として表示しています。

JOIさんが例に挙げられている「保険料」を例にとって解説します。比較的公平なモデルとして、自動車保険を例に挙げて見ましょう。保険というのは、自動車保険に限らず、基本的な考え方は、みんなで毎月、少額のお金を負担し合うことで、そのうちの誰かが、自動車事故を起こしてしまった場合に、そのみんなで積立てたお金の中から、事故の損害代金を支払うというものです。ただ、この少額負担は公平にしようということで、個人個人の負担額はパーソナライズ化されるんですね。

どうやって、パーソナライズ化されるか?というと、一番影響を与えるのは、事故率ですね。事故を起こしたことがある人は、またその内容のレベルに応じて、保険料は上がります。また、免許が持てる世代で、若い人や高齢者の方が、事故率が高くなる統計データが得られるため、保険料が高くなる傾向にあります。そして、車もスポーツカーなどを保有する人の方が事故率が高くなる統計データがあるため、保険料が高くなる傾向にあります。でも、若くても几帳面な性格であれば、事故率が低い可能性は十分ありますよね?しかし、そこまでは保険会社は評価してくれません。

また、これは、比較的平等なパターンな方で、圧倒的に不公平なパターンもあります。典型的なのは、「銀行ローン」です。大半の銀行で、安い金利でローンを組むためには、僕らはどうしなければならないか?公務員、大企業の正社員、などいわゆる「安定職」とアルゴリズムが定義した職業に、最低5年以上勤めている、などが、もっとも影響を与えます。「そういう人は、ローンを必ず返してくれる」という過去の統計データが論拠なわけです。終身雇用が崩壊しかかっている日本で、いまだに銀行はこのような審査モデルを使っています。

つまり、このブログでススメているような自由業の人は、銀行に行ってもローンを借りられない。じゃあ、どうしてもひつような場合にどうするか?と言えば、高金利ローン、いわゆる消費者ローンに頼るわけですね。日本の消費者金融はバブル崩壊後に一気に市場が拡大しましたが、この理由は、消費者ローンの会社は、大手銀行から低金利でお金を借りて、それを高金利で銀行ローンを借りられないユーザーに金を貸して利ざやを抜いているのですよ。酷いビジネスモデルですね。ベンチャー業界などではいわゆる「貧困ビジネス」といって軽蔑の対象になったりします。

貧乏人から金を巻き上げるビジネスだからです。本質的に貧困層を全く救っていない。日本の大手商社などが、グラミン銀行のモデルをパクって、東南アジアで横行している連帯責任型の消費者ローンビジネスなどが典型例ですね。年利30%という異常な高金利を設定し、返済率は重視せず、金利収入だけで利益がでるように設計されている融資ビジネスです。

と同時に、これは1つの評価経済であることをわかって欲しいのです。誰かが誰かを評価し、それの評価によって算出されたスコアによって、その人の経済活動の自由度が変わっていく。これは、ブロックチェーンの世界とも密接に関わっています。

なぜなら、ブロックチェーンが目指しているのは、トークンエコノミーによる評価経済だからです。日常生活の色々な所にこの評価経済が普及させていくことを目指しています。

つまり、この評価経済の仕組み作りをトークンエコノミーを仕掛けるベンチャーが失敗すると、世の中は、ディストピア(生き地獄)になってしまうのですよ。もっと経済格差が増長してしまうリスクも潜んでいるのです。例えば、典型的な間違った評価経済システムは、僕が以前から痛烈に批判している個人に株価を与えるという評価経済です。

その点は、こちらにまとめています。

https://lifeforearth.com/?p=4928

では、この問題を回避するための鍵は何か?僕は2つあると考えています。

つづく。

https://lifeforearth.com/?p=6728

関連記事