AIの文化的偏見をいかにダイバーシティによって取り除くか

How Diversity Can Remove Cultural Bias from Artificial Intelligence

ライブラリ / Voice on Growth Economies /

ダイバーシティによってAIの文化的バイアスを取り除く
関連記事:
Calendar2018/10/02

人間は生来文化的偏見を持つ性質があります。経済学や心理学、考古学を含む人間科学で見られるように、文化的なバイアスは「自身の文化的嗜好に伴う基準、または特定の文化における規範に従って事象を判断および解釈する過程1」であると定義されています。

ある文化では視線をそらすことは責任回避しようとしている、または内気であると解釈されるのに対して、別の文化で尊敬の表れだと解釈されるのは何故でしょう?また、アルゼンチン生まれの人々がサッカー選手のリオネル・メッシ選手仕様のジャージを着るのに対して、大西洋の対岸ではポルトガルのクリスチアーノ・ロナウド選手があがめられているのはなぜでしょう?韓国ではスープを飲む時に音を立てて飲むのが普通のことであるのに対して、他の国ではテーブルマナー違反とみなされるのはどうしてでしょう?英語の文章は左から右に読むのに、アラビア語などの文字は右から左に読まないと意味をなさない理由は?これらの事は文化的なバイアスがかかっているのです。私たちを取り巻く環境は、私たちが世界をどのように見つめ、どのように関わるかに強い影響を及ぼします。

しかし、コンピュータープログラミングのような大規模グローバル産業が単一の文化的視点で支配されるとしたら、何が起きるでしょうか。米国はコンピュータープログラミングの国際的なリーダーですが、最近のスタック・オーバーフローによる調査では、米国内のコンピュータープログラマーの85.5%は男性であり、このうち、大多数が白人だそうです。2プログラマーたちがAIの最前線でコードを作成していることを考えると、これが意味することは、白人男性の経験および感性がデジタル世界とAI分野の未来を定義付けていくということでしょうか。その答えは、YesとNoの両方です。

プログラミングの均質性の問題

異性愛者の白人男性がアルゴリズムを開発する際、必然的にそのAIはその開発者の特定の視点を通して世界を見ることになります。この元々の開発者の知的DNAを基盤として、このAIプロジェクトは発展し、インプットとデータを処理し、そして学習し続けることになります。人と同様に、限られた人生経験は、ますますグローバル化が進む世界の、想定外の問題や困難の中で、大きな損失となりかねません。

文化的バイアスは、予想もしないところに潜んでいるのです。例えば、ウォールマートが中国に進出した際、13億人を対象に小売店サービスを展開するというビジョンはすぐに行き詰ってしまいました。なぜなら、中国の消費者は米国の消費者と違って、国内の街ごと、地方ごとでニーズも好みも違うことがわかったからです。ウォールマートは、事業展開していた117の都市に向けた商品の取り合わせの正解を見つけることができませんでした。これに、先が見えない政治的困難およびインフラの不備と相まって、同社の最先端の効率的なサプライチェーンシステムが混乱を極めました3

文化的バイアスは、高校の試験で問われるような歴史的問題から笑える冗談、果ては美しさの定義まで、全世界のほとんどすべての文化に微妙なニュアンスを持ちながら根強く存在するのです。機械学習とAIは、私たちの社会で急増し、影響を与え続けます。「私たち」、つまり業界の専門家、ビジネスリーダー、政府機関などは、プログラミングの均質性が私たちの感性、視点、優先順位を定義する上で担う役割について注意しなければなりません。

プロジェクトマネージャーとコーディネーターは、文化的バイアスがプログラミング過程で破壊的な影響を与えないようにするプロトコルを確立することが必要です。戦略検討の最前線においてダイバーシティを優先させることは必須です。多くの場合、文化的バイアスは目立たずほとんど目に見えませんが、何年も後に先見の明、認識そして共感が驚くほど欠如していたということが露見するのです。究極的な損害は高くつきます。マーサーのAccelerating for Impact:2018 Gender Inflection Point(ジェンダー変曲点)には、『調査では、無意識の偏見とは人間として普通の特徴ではあることが示されたものの、時に男性、女性、そして彼らのキャリアに関する決定が、実績、スキル、才能に対して報いるという組織のゴールに沿わないことがあるかもしれません。4』と書いてあります。

ここ10~20年に至っても、社会で年々高まっている、ダイバーシティと、あらゆる民族、性別、文化的背景を包含するインクルージョンを望む声に対して、どれだけの政治的方針、企業方針、そしていわゆる「文化的規範」がその高まりに対応できているのか、お考えください。事業の運営は絶え間なく変化しているのです。機転が利き、進歩的な考えを持つ企業は、文化的バイアスに対する最強の対抗手段はダイバーシティ、つまり多様な考え方、経験、経歴、信条、視点であるということを知っています。知性と創造性の豊かさが一体となって影響力の相乗効果を引き出し、文化的バイアスがプログラミングの結末を決定づけることを抑制します。簡単に言えば、ダイバーシティはAIにおける長期的な成功のカギだということです。

ソリューションは、最初から始めなければならない

プログラミングの均質性を防ぐために雇用主が取り組める対策があります。まず雇用者は、将来のビジョンが欠落すると競争力の低下につながることを認識し、プログラミングにおけるダイバーシティの欠如は責任問題であることを自覚するべきです。アップデートされた内部ポリシーとプロトコルは、AIの機能とそれが与える業界およびお客様への影響をふまえたビジネス目標と合致している必要があります。これはプログラミングの運用全体においてダイバーシティを構築することを意味し、それによって広範囲にわたる能力や視点、そしてアイディアが絶えず比較、改良され、命が吹き込まれていくのです。

次に、雇用者はテクノロジーの力そのものを活用しなければなりません。機械学習によって、コンピューターが「AI トレーニング」を使って独自のアルゴリズムを作り上げるように教え込むデータセットが作成されます。 そしてその後、機械は教え込まれたことに基づいて、完全に「新しく」オリジナルの合成物を作ります。つまり、最初のダイバーシティが、アウトプットにおけるダイバーシティという結果になるということです。その事業会社が多様性がある包括的な開発コミュニティーを持つ場合、普段見過ごされているような組織的問題やチャンスに潜在的に影響を及ぼす多様な問題をより反映したツールを作ります。均質性に影響されたプログラミングの罠にかからないためには、最初から始めましょう。

結論:成功に導くための包括的なAI分野

人とテクノロジーの融合が仕事の未来を定義付けますが、人的要素は常に進むべき道を明るく照らすでしょう。この進化し続ける状況において競争優位性を構築するためには、人が技術に及ぼす影響を評価し、人間の行動を導くものは人間性であることを忘れないことが必要です。効果的なデジタルトランスフォーメーションのためには、多様な視点の力へのコミットメントと、障壁のない開放的はAIの世界が広がるにつれて人間および人の経験がどのように進化するのかに対する理解が必要です。

結局のところ、異なる視点や経験を持つ人々が協力して問題を解決するとき、結果は素晴らしいものになり得るのです。ダイバーシティは、創造的プロセスとアイディアの相互交流につながるカギであり、現代の発見をけん引します。あらゆるプログラマーが勇敢な探検家であり、彼らの発見は世界中にいるプログラマーたちの才能と貢献に繋がっているべきなのです。

1 文化的バイアスの現象を事例で理解する
https://psychologenie.com/understanding-cultural-bias-with-examples

2 スタック・オーバーフローデベロッパー調査2017
https://insights.stackoverflow.com/survey/2017#overview

3 Walmartが中国への進出に失敗した理由
http://fortune.com/2016/02/21/why-walmart-stumbled-on-road-to-china/

4 Accelerating For Impact: 2018 Gender Imperative
https://www.mercer.com/our-thinking/when-women-thrive-accelerating-for-impact.html

ダウンロード 本誌アプリ



  お問い合わせ
お問い合わせフォーム
*必須項目