博報堂ＤＹホールディングスは2024年4月、AI（人工知能）に関する先端研究機関「Human-Centered AI Institute」（HCAI Institute）を立ち上げた。
HCAI Institute は、生活者と社会を支える基盤となる「人間中心のAI」の実現をビジョンとし、AI に関する先端技術研究に加え、国内外のAI 専門家や研究者、テクノロジー企業やAI スタートアップなどと連携しながら、博報堂DY グループにおけるAI 活用の推進役も担う。
本格的なスタートを切ったHCAI Institute を管掌する、グループのCAIO（Chief AI Officer）である森正弥が、AI 業界をリードするトップ人材と語り合うシリーズ対談を「Human-Centered AI Insights」と題してお届けする。
第1回は、STORIA 法律事務所の柿沼弁護士を迎え、HCAI Institute 所長補佐の西村と共にAIの最新潮流と企業に求められるガバナンス、人間中心のAI のあり方について聞いた。

STORIA 法律事務所
柿沼　太一弁護士
専門分野はスタートアップ法務及びデータ・AI法務。現在、様々なジャンル（医療・製造業・プラットフォーム型等）のAIスタートアップを、顧問弁護士として多数サポートしている。経済産業省「AI・データ契約ガイドライン」検討会検討委員（～2018.3）。日本ディープラーニング協会（JDLA）理事（2023.7～）。「第2回 IP BASE AWARD」知財専門家部門グランプリを受賞（2021）。「オープンイノベーションを促進するための技術分野別契約ガイドラインに関する調査研究」委員会事務局（2021～2024）。

企業に広まる"当たり前"のAI活用

── 生成AIを含むAI技術開発は加速度的に進展しています。現在の動向をどのように見られていますか？

柿沼　AIの活用は当初、企業内部の業務効率化を中心に注目されていましたが、最近では生活者に向けた業務であったり、あるいは生活者自身がAI技術を使う場面も増えてきました。それによって、AIの新しい使い方が次々と発見され、AIによって扱える業務の場面が拡大し続けている印象です。

この分野の技術面の発展は、本当に底が見えません。例えば、自動車等のモビリティの領域における技術開発なら、スピードや空間の制約という、物理的な限界がありますよね。

でも、AIのような大規模なデータ処理であったり、学習基盤というのは、物理的にはいくらでも拡大できるがゆえに、行く先がまだ多分誰にもわからない、という感覚が正直なところではないでしょうか。

森　AIの利用の仕方そのものも研究対象になってきていますよね。例えば、ChatGPTは対話機能のみの利用から瞬く間に、内部のLLM（Large Language Models：大規模言語モデル。AIの基盤となるモデル）であったGPT-3.5やGPT-4が企業の中でのデータ連携や検索システムに応用されています。

また、対話やテキスト生成、情報検索を行うユースケースだけでなく、大規模言語モデル「Gemini(ジェミニ)」では1時間の動画をまるまる解析させるなど応用の広がりも見せており、技術の指数関数的発展を後押ししています。

── ビジネスの現場でも変化はあるのでしょうか。

西村　はい。LLMの進化により、対応できるデータがマルチモーダル化（テキスト・画像・音声・動画など複数の種類のデータを一度に処理できる技術）し、プロンプトに入力できる情報量も増加しています。また、APIの利用が進み、LLMを利用した新たなアプリケーションやサービスが次々と登場し、エコシステムが拡大しています。

こうした技術の進化に伴い、多くの企業がAI技術を活用しないことへの危機感を抱いています。昨年は黎明期で試行錯誤が続いていましたが、今年はEU AI Act（AI規制法）の施行により法的な解釈やルールが整備され、「このように使えば問題ない」という社会的な共通認識も形成されつつあります。

セキュリティやプライバシーの面でも、クローズドな環境での利用や、セキュリティ対策が施されたツールが普及し、多くの企業は通常の業務利用において大きな問題がないと感じているのではないでしょうか。

柿沼　そうですね。多くの企業は、これまで無駄だと感じながらも行っていた業務や作業が多かったと思います。しかし、AIを活用することでこれらの作業を大幅に削減できるという感覚が広がっているのではないでしょうか。

例えば、医療や製薬の領域では、人手が多く掛かっている業務において、構造化されていないテキストデータもAI技術を活用することでもっと効率的に解析や利用ができるのではないか、とみんなが気づき始めていて、PoC（実証実験）がいくつも生まれていますね。

AIサービスベンダーにも求められる企業ガバナンス

森　AIやテクノロジーの利用が広がっていくと、セキュリティは大丈夫なのか、企業ガバナンスが効かなくなってくるのではないか、といった懸念もあります。そのあたりの動きについても教えてください。

柿沼　AI活用における企業の大きな懸念の1つは、情報漏洩リスクです。

オンプレミス（自社独自環境の構築・運用）のように閉じた環境内での個人情報や機密情報のやりとりなら、その中で処理できれば問題ありませんが、近年では、AI機能を実装したSaaS（Software as a Service：主にインターネット経由で、どこでも利用可能なサービス）をいくつも利用する企業も多く、そうしたサービスをどう扱うか、情報漏洩リスクをどのように管理するかという点にも注目が集まっています。

西村　確かに、AIを活用したSaaSモデルでは、様々な利用形態が登場しています。例えば、AIを活用した商談メモの要約サービスがあった場合、利用者の音声データをAIサービスのベンダーが自社利用できないように消去する場合は料金が安く、ベンダーの学習データとして利用する場合はさらに安価になるというケースも出てきています。このように、情報の重要性や用途に応じて課金が変動する環境が整ってきたことは非常に興味深いです。

森　今、挙げられていたSaaSのケースでは、今まではサービスを利用する側の企業の責任と捉えられてきた部分も、提供するAIサービスのベンダー側が自主的にカバーするようになってきた、ということですね。

柿沼　そうですね。サービスを利用する企業の危機感や関心ごとを、サービスを提供するベンダー側が十分に意識しつつあるということなのだと思います。サービス利用者側の規制遵守を、ベンダー側がどのようにサポートしていくかは、ベンダー側の戦略として非常に重要なポイントだと捉えています。

西村　面白いですね。ベンダー側のデータプライバシーであったり、ガバナンスサポートの手厚さといった違いが、今後AIサービスを選ぶ基準の一つになって、サービスの競争力に大きく影響を与えていくのでしょうね。

柿沼　そう思います。実際のところ、AIサービス利用者側がAI技術のリスク（学習データの仕組みやハルシネーションなど）を完全に把握するのは非常に難しい。となれば、AIサービス利用者とAI開発者との中間にいるサービス提供者（ベンダー）層の存在が鍵になってきます。

AI利用者のニーズをつかみながらリスクもちゃんと把握して使えるサービス設計をする、企業のガバナンスにもちゃんと合うようなものを提供できる、こうした観点に対応できるかどうかが重要になってくるはずです。それと同時に、利用企業もしっかりと信頼できるベンダーか否かを見極める目を持つことも大切ですね。

AI規制の歩みと各国の動き

森　利用者やベンダーなど企業側のガバナンスだけでなく、国としてのAI規制も議論が進んでいます。技術全般に対する規制のあり方を踏まえつつ、AIに対する規制はどうあるべきでしょうか？

柿沼　最初に、技術に対する法規制の仕方には開発・製造段階、販売段階、利用段階それぞれの規制があると考えています。最近のAI技術については、利用段階への規制だけではなく、いわば上流まで遡ってツールそのものの開発にまで規制を及ぼすべきかという、非常に大きな問題が議論されています。

これまでの技術発展について考えてみるとどうでしょうか。例えば、自動車の場合規制の目的は、人命と安全を守るためです。製造段階で当然品質管理における規制がかかりますしし、利用段階では利用者側に交通法規が適用されますよね。同様の考え方が医薬品や医療機器にもあてはまり、製造から使用まで各段階で規制が存在します。

AIの場合、例えばAIを利用することで個人情報の不適切利用やプライバシー権が侵害されるリスクがあります。この時、AI利用者による個人情報の不正利用やプライバシー権侵害を規制するだけでなく、そのような用途に使われるAIツールそのものを規制しようという動きがEUでは見られます。これは、自動車に関する規制が単に利用段階だけでなく製造段階にも及んでいるように、ツールそのものを強力に規制するアプローチです。

それを受けて、そこまでの規制をやるべきかやるべきでないか、各国が今試行錯誤している段階と見ています。あとは、AIの場合、知的財産権やプライバシー権など広範囲に影響を与えるため、規制を検討すべき範囲も広いですね。

西村　AIツール自体の規制の可能性もありますが、規制の範囲が広範囲に及ぶので、個人情報保護法や著作権法など既存の法律で対応できる部分もありますよね。

森　EUの場合ですと、 非常に強い規制をEU AI Actとして定義しましたよね。人権を中心とした議論を重ねてきていることと、複数の国が関与しているため、さまざまな危機感やリスク認識が存在していることも影響しているのかもしれません。

柿沼　リスクベースアプローチといって、リスクに応じて規制を変えていくというアプローチをEUはとっています。ツール開発の規制まで踏み込まなければならないかどうかについては、まだ明確な答えがないと考えています。日本では、まずは現行法で対応し、どうしても対応できない部分については新たな規制を導入しようという方針です。個人的にはどちらの考えが優れていると言うことではなく、いずれも十分合理性があるのではという気がしています。

森　基本的に、欧州のやり方と日本のやり方は異なるという前提を持たなければなりませんが、単純にどちらかのアプローチが良いという話にもなりません。ただし、規制の話だけでなく、人間とは何か、AIとは何かといった非常に広範な議論について関係機関を巻き込みながら長年にわたって行っていることは、大変重要な意味を持ちます。

西村　規制の立脚点であったり、文化などEUと日本での違いを踏まえて議論をしていくこと自体がAI規制のあり方を深める上で重要だとは思っています。その上で、日本がAIを戦略的に産業として支援していくスタンスなのであれば、AI活用を意識した規制のあり方は非常に重要な意味を持ってくるのではないでしょうか。

※後編はこちら