文：Dan Read（ダン・リード）、Savannah Kunovsky（サバンナ・クノフスキー）
絵：Zahin Ali（ゼーヒン・アリ）
多くの人々が、AIをどのように活用すべきかという課題の解明に、多大な労力と資金を注いでいます。しかし、先週IDEOサンフランシスコスタジオで開催された「Signals of TEDAI」イベントの最中、MITメディアラボの技術者兼研究者であるパット・パタラヌタポルン氏が、パネルディスカッションの場で、より本質的な問いを投げかけ、参加者を驚かせました。
同イベントでは、将来的な職場におけるAIの有用性や、現在アート界で展開されている知的財産（IP）権の争いから企業が学ぶべき活用法について議論されました。その中で彼が提示した、より本質的な問いとは、「AIは私たちに何をもたらしているのか？」というものでした。
人々が価値を置くのは、身体的な、対面での体験となる
ディープフェイク、AI生成コンテンツ、そして誤情報を通じてテクノロジーが容易に操作されるようになるにつれて、何が本物で、何がそうでないのかを見分けることは、ますます困難になるでしょう。メイフィールド社のベンチャーパートナーであるティム・チャン氏は、このような世界においては、人間との繋がりこそが最も信頼できる真実の源泉であり、唯一のオーセンティックな（本物の）体験の形になるだろうと論じました。
彼は、「1年か2年のうちに、デジタルで作成・送信されたものは、根本的に信頼できなくなるでしょう」と述べ、「私が信頼できるのは、あなたに直接会うときだけです」と強調しました。デジタルコンテンツが額面通りに受け取られなくなる未来において、人々は再び最も信頼されるインターフェースになるかもしれません。
では、この「デジタル」と「リアル」の２つの世界が、競合をやめ、互いを高め合うにはどうすればよいのでしょうか？その答えは、本物の体験とインテリジェントなテクノロジー、そして人間的な親密さと境界のない接続性の融合にあります。次世代のソーシャルネットワークは、完全にアナログにはならないかもしれませんが、私たちのスクリーン上だけに存在するわけでもないでしょう。
テクノロジー企業にルールを変える権限はあるのか？
公平な学習データ慣行を持つ生成AI企業を認定する非営利団体 Fairly Trained の創設者であるエド・ニュートン＝レックス氏や、アーティスト兼未来学者であるエイミー・カール氏といった登壇者は、「フェアユース（公正利用）」を装った企業によるアーティスト作品の盗用を批判しました。彼らは、民主的な合意なしに著作権保護といった基本的な規範を変えようとするテクノロジー業界の傾向を非難しています。
ニュートン＝レックス氏は、長年にわたり、「許可なく著作権のある作品で商用モデルを学習させたAI企業はなかった。なぜなら、それが違法だと皆知っていたからだ」と指摘しました。しかし、今や複数の著名企業がそれを実行し、金銭的な利益を得ているため、他の企業も同様に追随しようと急いでいます。
彼は、「それらの企業に責任を負わせるという点において、社会は非常に、非常にまずい対応をしている。」と述べました。
しかし、テクノロジー企業がアーティストを過小評価してきたことは、数十年にわたって周知の事実です。ある音楽再生サービスは、アーティストに1再生あたり$0.003から$0.005しか支払っておらず、アーティストがわずか1ドルを稼ぐには、およそ250回の再生が必要となります。2015年には、大手IT企業が「著作権者への補償なしに作品の抜粋を表示する権利」を巡り、作家組合（Authors Guild）との10年にわたる法廷闘争に勝利しました。
現在のAIを巡る議論は、これらの前例にさらに拍車をかけています。そして、社会を根底から覆し、アルヴィン・ワン・グレイリン氏が提唱した「アーティストに対するユニバーサル・ベーシック・インカム（UBI）」といった、より根本的な概念を検討することまで望まないのであれば、テクノロジー企業はアートとアーティストを評価する方法を変える必要があります。
それは、単にそれが正しい行いだからというだけでなく、クリエイティブな人々が常にテクノロジーの未来をデザインするのを助けてきたからです。私たちは、クリエイティブな人々なしに素晴らしい技術を持つことはできませんし、素晴らしい技術なしに創造性が進化することもありません。このプロセスに関わる双方に相互利益があるべきなのです。
「人工知能は人工的でもなければ、知的でもない。」
Right AIの創設者兼オーナーであるオヴェッタ・サンプソン氏は、AIの能力は、それを形作る人々の力に依存していることを改めて指摘しました。そして多くの場合、AIを形作る人々とは、トレーニングデータを調整し、クリーンアップし、分類するために搾取されている、舞台裏にいる周縁化された人々です。
これは、IDEOが2020年にMozillaと共同で「監視経済の結末」について調査していた際に探求したテーマです。当時、私たちは、メカニカル・ターク（クラウドソーシングの作業者）の役割を通して「不可視化された作業が、人知れぬ形での人間の搾取を可能にしている」ことを発見しました。現在のLLM （大規模言語モデル）の慣行も同様に、その知性を支える労働は人工知能の一部ではなく、現実の（人間による）労働です。
より公平で偏りの少ないモデルを追求する責任あるデザイナーとして、私たちは、そのような搾取されているコミュニティに光を当て、システムの多様性と透明性の重要性について、ユーザーと組織を教育する方法を見つけなければなりません。
「デザイナーは誰なのか？」
パネリストたちは繰り返し、デザイナーはAIを正しく扱い、悪影響を最小限に抑えつつ、真の人間的なニーズを満たす製品やシステムを創り出さなければならないと強調しました。その後、RepresentEdの創設CEOであるラシーダ・ハニフ氏は、一見単純でありながら極めて根本的な問いを発しました。
「デザイナーは誰なのか？」
この領域において「デザイン」が持つであろう影響の規模を考慮するならば、デザインにおいて最も多く議論される欠点、すなわち多様性（ダイバーシティ）、公平性（エクイティ）、そして包摂性（インクルージョン）の重要性を高める必要があります。
別の興味深い論点として、チャン氏とハニフ氏が指摘したのは、女性の参画における構造的な課題です。
一般に、女性が設立したスタートアップの数が少ないことが懸念されますが、この懸念はしばしば、女性創業者への投資不足という根本的な問題を見落としています。さらに、彼女たちが起業という段階に到達する以前に存在する、教育やサポート体制における格差も大きな要因となっています。
このジェンダーの格差は、問題の一端にすぎません。私たちは過去の教訓から学び、「誰かをテーブル（意思決定の場）に招いたとしても、それは手遅れだ。なぜなら、既にそのテーブル（議論の枠組みやシステム）は作られてしまっているからだ」という事実を忘れてはなりません。デザインコミュニティとして、私たちはこの現状を改善する必要があります。
「革命は始まらなければならない。そして、それはあなたから始まらなければならない。」
サンプソン氏は、最も重要な点を私たちに改めて思い出させました。それは、「デザイナーが〜する必要がある」と言うのは簡単だが、私たち全員がこの未来を創るうえで発言権を持っているということです。彼女は、最も重要な点について改めて言及しました。「私たちは、AIの技術革新において単なる受け手になるべきではありません。巨大テック企業の限られた視点から提示される未来像をそのまま受け入れるのではなく、積極的に議論に参加すべきです。私たちには、未来を創るための知識やアクセス権といったリソースが既に備わっています。私たち自身が望む未来を形作る責任は、私たち一人ひとりにあるのです。」と述べました。
IDEOにとって、その未来とは、人間の創造性とテクノロジーは二者択一の関係ではなく、協働して進化することを理解する未来です。そして、これはIDEOが繰り返し認識しているテーマでもあります。
この主張は、AIが中心的なテーマであったFigma社のConfigカンファレンスでも議論され、Ethiqlyのようなクライアントとの協業を通じて探求が深められました。そして、今回の対話でも、テクノロジスト、アーティスト、ビジネス関係者を問わず明確に共鳴していました。
AIは多くのことができるようになり、そしてもちろん、雇用を代替し、業界全体をひっくり返すでしょう。しかし、AIの知性は、人間の創造性と組み合わされ、人々に真の価値をもたらす体験を創出して初めて、真に価値あるものとなるのです。