人と能力を競わないAI 「能力主義はもう古い」
2023.7.19
監 修
株式会社Laboro.AI 執行役員 マーケティング部長 和田 崇
概 要
人々が理不尽な差別に苦しむことなく才能や努力に応じて報われる社会。実力があれば上に行ける「能力主義」には、もちろん良い側面もあるに違いありませんが、より高い能力を得るために過酷なレースが繰り広げられるようになっていることも実際です。
能力主義が手に負えなくなり始めた今、そのレースから外れがちな人々に、新たな視線が集まっています。例えば、世界では13億人が何らかの障害を抱えて生活しており、その数は世界人口の17%に相当し、世界最大のマイノリティ・グループとしても位置付けられます。ですが、彼らは「能力主義はもう古い」と言わんばかりにインターネットを通じてテクノロジー企業とつながり、社会とつながるためのAI開発にも参加しています。
こうした新しいプレイヤーの登場によって、これまで難しかった障害に関するデータ収集が可能になり、障害を持つ人々に喜びを提供するようなサービスも登場し始めています。
今回は、能力主義の次に訪れるこれからを見据えながら、人と社会をつなぐ、人と能力を競わないAIの存在意義について考えていきます。
目 次
・能力主義が、人の手に負えなくなる
・なぜ「性能」を上げることに全集中してしまうのか
・能力主義が差別制度のようになる
・能力を最大化することの罠
・AI が作業効率を最大化にしたら、人がいなくなった
・データの端っこを中心に持ってくる
・何をもって平均とするのか
・「クール」と言われるのは異なる存在の人
・AI で障害者はより自然に生きやすくなる
・全世界4億の障害者ゲームプレイヤー
・目の前の日常に現れる字幕
・すべての人間に平等におとずれること
・能力に関わらず生きられる社会へ
能力主義が、人の手に負えなくなる
なぜ「性能」を上げることに全集中してしまうのか
人間にとっての一番の成長期は生まれてからの一年だと言いますが、ChatGPTも2022年11月に登場してから半年も経たないうちにGPT-4へとスケールアップし、アメリカの司法試験で下位10％だった能力が上位10%に食い込むまでになりました。
こういったAIの爆発的な成長の背景には、AIの学習や推論で使われるコンピュータマシンの性能が高くなっているということが大きく関係しています。AIモデルのパラメーター数が一定を超えると飛躍的に性能が向上する「スケーリング則」も言われるようになりましたが、特に近年は、AIモデルの大規模化が目指されるとともに、こうした複雑な計算処理にも耐えられるような、より高性能なAI開発にリソースの多くが向けられています。
では、なぜ「性能」を上げることに多くのリソースが注がれるのでしょう。このようなことはAIの分野に限らずあらゆるところで起こっています。例えば、私たちの従来の社会の考え方では、才能や知性、努力に応じて人は報われるべきであり、能力を磨くために塾に通ったり勉強や練習をしたりと、能力向上にお金や時間が投入されてきました。
とはいえ実際、能力の高さに応じて報酬がもらえてお金持ちになれているのかというと、そこには理想とは異なる現実があることが見えてきます。というのも、世界ではわずか8人が世界の最貧困層38億人の富に相当する総資産を持つまでに貧富の差が広がっていることに対して、人間そのものの能力自体にはそこまでの差はありません。
どんな働き者でも人の何億倍も働く人はいませんし、人の10倍、100倍のIQを持つ人もいないのです。 人間の能力にはそこまで大きな差がないはずなのに、与えられる報酬にはあまりにも桁違いな差が存在しているのです。
能力主義が差別制度のようになる
こうした行き過ぎた能力主義が「そのうち、人の手に負えなくなる」という懸念を示す声もあります。
太陽光で動くAI搭載ロボットが主人公の小説『クララとお日さま』を発表したノーベル賞作家のカズオ・イシグロ氏は、NIKKEI Asiaのインタビューの中で、遺伝子操作などのテクノロジーの発展を踏まえ次のように述べていました。
「私は、能力主義はいいことだと思っていました。階級的な特権や人種ではなく、実力によるヒエラルキーを作るのは良いことだと。けれど、ある人を他の人より優れた存在にするテクノロジーがある世界では、能力主義はむしろアパルトヘイトのようなものになりかねません。」
『クララとお日さま』に登場する AI 搭載ロボット クララは、能力主義が過酷さを増した社会で、子どもたちの寂しさを取り除くAF（Artificial Friend）として存在しています。
能力を最大化することの罠
AI が作業効率を最大化にしたら、人がいなくなった
AIの高性能化を目的とした開発レースが繰り広げられる中、このまま更なる能力だけを求めて AI の開発を進めれば、生産能力の最大化のみを追求するようなAI搭載マシンによって世界が滅びてしまうといった危機も囁かれています。
オックスフォード大学の哲学者であるニック・ボストロム氏は20年ほど前、「AIが桁違いに賢くても、人間が制御できるのか」という説を思考実験による検証を経て発表しました。そこで題材となったAIの目的は、ペーパークリップを作ることでした。
ペーパークリップをできるだけたくさん作るため、AIはあらゆる手段で資源を調達し、やがて世界はペーパークリップで溢れかえることになります。そしてAIは、人間がスイッチをOFFにする可能性があると思い、人間が存在しない方がいいと気づきます。結果、AIは「クリップはたくさんあるけれど人間はいない」という結末を迎えることになります。
ボストロム氏はこのシナリオが実際に起こることはないと強調しながらも、コストや作業効率を最適化するという一見人間にはプラス効果しかないような目的であっても、人に悪影響を与える可能性があることを示唆しています。
もちろんこれは少し大袈裟な例だとしても、これからの人間に対するAIの価値に目を向け、その設計プロセスの中で、全ての人への影響を考慮した測定基準や方法などがますます重要になってくることは間違いなさそうです。
データの端っこを中心に持ってくる
何をもって平均とするのか
一般的に大規模なデータセットは、いわゆるベルカーブという概念に依存しています。データの分布を表すベルカーブは、全体のうち平均を中心とする約68％の範囲内に約95％のデータが入るというものです。一般的に見ればAIは平均的なニーズに応えようとする傾向があるため、平均から離れれば離れるほど AIがそのニーズを満たす可能性は低くなります。
データセットが人間に関するものであった場合、それによって特に深刻な影響を受ける可能性があるのは、データ上の95%に入らなかったマイノリティ・グループに所属する人々です。
けれど裏を返せば、平均から外れた5%の人を中心に持ってきた適切なデータセットがあれば、AI はそれらの人のニーズを満たしてくれるものにもなります。
こうしたデータの外れ値に対しての学習を最適化させるテクニックを試している人もおり、中でも障害者を支援するテクノロジーの分野では、AI を障害者の未来の選択肢を広げることを目指して、当事者データを中心に開発する新たなムーブメントが生まれつつあります。
「クール」と言われるのは異なる存在の人
民族や人種など世界にはさまざまなマイノリティ・グループが存在しますが、障害を抱えている人は世界で13億人に及び、世界人口の17%を占める世界最大のマイノリティ・グループを構成しています。多民族国家アメリカでも、全ての成人のうち25％が精神障害を抱えるグループに属します。
しかし、障害には慢性的なものもあれば一時的なものもあることから、人生のどのタイミングでも出たり入ったりする可能性がある複雑さを含み、また、障害の状態や内容から個人が特定されやすいこともあって、そうしたグループのデータを集めることは難しい背景がありました。
ところがここ数年、多様性の価値が大きくなった社会背景から、若者の中で雑誌の表紙やランウェイに登場した障害者モデルが話題になったり、障害のある俳優が当事者役で出演するドラマや映画も見られるようになり、新たな流れが生まれつつあります。
出生時に脳性麻痺と診断され、ブログで発信を続けていた10代のアーロン・ローズ・フィリップ氏は、2019年以降、数々の雑誌のカバーを飾り、2021年にはMOSCHINO（モスキーノ）のコレクションでランウェイデビューを果たしました。
また2022年、ろう者がろう者として主演した映画『コーダ あいのうた』はアカデミー作品賞を受賞し、ストーリーにおける “当事者” の存在意義を社会に知らしめました。 こうした新しい世代の人々は、#DisabledAndCute、#WheelsNoHeels、#DisabledFashion といったハッシュタグを用いて自分をありのままに発信するようになり、障害を持つ多くの人がSNSツールを気軽に利用するようになったことで、集めづらかった障害に関する情報が共有されるようになったことは注目すべき変化の 1 つです。
AI で障害者はより自然に生きやすくなる
全世界4億の障害者ゲームプレイヤー
テクノロジーの進歩は全ての人にメリットをもたらすものですが、障害を持つ人にとっては、それが人生を左右するような恩恵になることがあります。例えば、世界では4億人の障害者ゲームプレイヤーがテクノロジーによって驚くほど豊かなゲーム体験を得ています。
ゲーム制作において、判別しやすい色や読みやすい文字の表現、音が聞こえなくてもプレイできるようなエフェクトなど、UIやアクセシビリティの向上は、ますます大きなテーマとして扱われるようになっています。
そして今年5月、Googleは筋ジストロフィー（筋肉が衰える進行性の病気）のゲーム配信者 ランス・カー氏とともに、AIを用いた手を使わないゲームマウスのプロジェクト「Project Gameface」をスタートしたと発表しました。 これは複数のAIモデルを連携させて、ウェブカメラで撮影した顔468箇所のポイントを読み取って表情を認識し、ウェブカメラをマウスのように使ってゲームを操作できるようにするものです。
眉を上げるとマウスがクリックされたり、口を開けるとカーソルが動いたりするという仕組みで、従来の｢ヘッドトラッキング・マウス｣のように頭を大きく動かしたり、まばたきをトラッキングしたりしなくてもゲームプレイにも支障のない、より小さな動きで操作が可能になることが目指されています。
「ゲームが世界との唯一のつながりなんだ」と話すカー氏は、このテクノロジーによって「生まれて初めて、物理的な意味でできることが増えた」と語っています。
目の前の日常に現われる字幕
耳の聞こえない人が相手の口元を見なくても、複数の人の話を一度に「読む」ことができる字幕付きメガネも、AIの進化によって登場しています。AI技術とAR 技術が組み合わさったスマートメガネで、これをかけると目の前にリアルタイムで会話の字幕が表示されるというものです。
こうしたメガネを開発するXRAIの共同設立者であるダン・スカーフ氏は、97歳の祖父を観察していて字幕付きメガネの着想を得たのだそうです。
スカーフ氏の祖父が最も生き生きしていたのは、テレビを字幕付きで見ているときで、それほどテレビの字幕を楽しんでいるのなら「人生にも字幕をつけたらいいのではないだろうか？」と考えたのだといいます。
耳が聞こえない人にとって、同時に複数の人の会話についていくことはとても難しいことですし、何か別のことをしながら話を聞くということもこれまでは不可能でした。それが、どこを見ていても周りで話されている全てのことが目の前に字幕で出てくるメガネによって、耳の聞こえない人にはどうしても無理だったことが自然にできるようになったのです。
すべての人間に平等におとずれること
能力を失うことを恐れずにいられる社会へ
AIの良いところは、人間を凌駕する高い性能ではなく、適切なデータセットがあれば、どんな人の役にも立てることなのかもしれません。
今年に入って AI界隈でじわじわと広まってきたワードに「AI アラインメント」という言葉があります。AIアラインメントとは、AIが人間の望まないようなモノにならないように、AIを人間の目的に沿って制御するというようなことを意味します。つまり、現在の AI の性能を高める動きに対してはどちらかというと、それを一旦省みるためのブレーキのような位置付けになります。
AIアライメントについて、2021年の時点での「State of AI」という調査報告によれば、Artificial General Intelligence（AGI：汎用人工知能）の中核的な研究所でAIアラインメントの分野に従事している研究者は 100人もいなかったそうです。
当時はあまりに少数派で、AIを開発している企業の人員配分としても、 DeepMindでAIアライメントに割り当てられている人員は全体の約2％、OpenAIの場合は約7％に過ぎませんでした。 しかし、テクノロジーで世界をリードしてきた企業の動向をみてみると、これまでのような性能を高めるためのレースだけではなく、AIをすべての人間が望むものに近づけるレースにも、今後は多くの報酬が支払われることになっていきそうです。
能力や才能、努力が報われるべきだという能力主義の時代は、少しずつ終わりを迎え始めているのかもしれません。
障害のある子どもたちは、「あの子どうしたの？」という世間の目に対して「私はこうなの」と言うことができるようになりつつあります。そして、社会やデータの端にとどまるよりも、テクノロジーを活用し自分はここに居て当たり前なのだと伝えながら、世界の中心で生きていくこともできるようになるはずです。
テクノロジーが進化し変わり続ける一方で、私たち人間は人生のどこかで必ず、自分自身や身近な人の「変えられないものを受け入れる」ことを求められます。従来のやり方のままでいるには難しさが出てくることもあるはずですが、そんな時、テクノロジーに補ってもらいつつやり方を変えることで、人生に新たな豊かさを取り入れることもできるように思います。
AI は新しい世代の与えてくれるデータに学び、すべての人の手となり足となれる存在へと、その汎用性が追求されていくべきなのかもしれません。それぞれの能力に関わらず、すべての人々がイキイキと生きられる社会を目指して。
