AIは文房具である。
ビジネス現場の勘違いと、人間が退化する「第2のシンギュラリティ」
AIを業務に組み込み、企業の変革につなげるためには、業務やデータを整え、AIを活用できる土台をつくることが重要です。しかし、その前提となる「AIとは何か」を、私たちは本当に理解できているのでしょうか。
多くの人は、AIを従来のシステムの延長線上で捉えています。同じ入力には同じ答えが返るもの。人間の代わりに正しい答えを導き出してくれるもの。そんな期待を抱きがちです。
「AI自体は工学であって、サイエンスではない。だから、本質的に再現しない。」
科学の対象になるのは本来ヒトや動物の持つIntelligenceであって、Artificialにこれを実現しようとする研究は工学だという東京大学大学院工学系研究科 教授・大澤 幸生氏の指摘は、多くのビジネスパーソンの直感に反するかもしれません。同じ問いに、同じ答えが返ってくる——それが、これまでのシステムの世界の前提。ところがAIは、そうはならない。同じことを聞いても、違う答えが返ってくることがある。
この「再現しない」という性質を、単なる欠陥として片付けてしまうのか。それとも、そこにこそ、人間がAIと向き合うためのヒントがあるのか。
今回、ウフル取締役常務執行役員・坂本 尚也が、その大澤氏と対談しました。
前編では、ビジネス現場に広がる「AIへの過剰な期待」と、大澤氏が警鐘を鳴らす「第2のシンギュラリティ」について語られました。
01 / Expectation Gap煽られた期待値と、置き去りにされた理解
坂本：
現場の実感として、お客様のAIに対する期待値は圧倒的に高いです。「AIで何かしなきゃ」という空気が当然のように強い。ただ、本質的に何ができるのか、最近の変化で具体的に何が変わってきているのかが十分に理解されないまま、期待値だけが極端に上がっている。それが今の現状だと感じています。
大澤：
すごくわかります。もともとそういう空気はありますよね。
自分がAIのユーザーだと、真剣に考えている人はそんなにいません。多くの人は、なんとなくAIを使っている。彼らのニーズがどこにあるのかもよくわからない。同時に、技術がどこに向かっているのかも、実はよくわからない。ニーズ側もシーズ側も曖昧なまま、話が進んでいるんです。
そもそもAIというのは、未定義の技術です。私はAIを35年研究してきましたが、どこからどこまでがAIなのか、その境界線が今もよくわかりません。少なくとも、機械学習のことだけを指すものでもないし、推論だけを指すものでもない。
AIは、人間に対する科学（サイエンス）をもとに、工学として作られてきたものです。その過程で、人間がやっていることの大部分は捨てられている。一方で、残ったごくわずかな部分を、人間にはとても追いつけないパワーで動かしている。だから、パワーの合計値だけを見れば、人間を上回っているように見えることもある。けれど、人間ができることと機械ができることは、まったく違うんです。
ところが、ChatGPTなどがあまりに見事に答えてくるものだから、まるでそこに人間がいるかのような錯覚が起きる。これは昔からある話で、ぬいぐるみを見て可愛いと思ったり、車に名前をつけて家族のように扱ったりするのと同じです。人間は、人間でないものを見て、人間だと思ってしまう生き物なんですよ。
AIは、どこまで行っても、文房具です
02 / AI as a StationeryAIは文房具である。だから「なぜ」は問えない
大澤：
ただ、最近この文房具、随分と質が悪いなと思うことがあります。私自身、データ分析をAIにやらせても、満足のいく結果が出たことが一度もない。私の使い方が悪いのかもしれませんが。医学や都市工学の研究者との共同研究で、チャンス発見的な新しい発見をしようとするとき、こういうことがやりたいとAIに頼んでも、近い結果を出してくれた試しがないんです。
これはなぜかというと、AIは「なぜ」という問いが、そもそも苦手だからです。
答えてはくれます。でも「これはなぜでしょうか」と聞き続けると、だいぶピントがずれていく。考えてみれば当然で、AIはデータドリブンな仕組みです。データがどんなにリッチになっても、データというのは物事の「結果」であって、「原因」ではない。原因に相当するデータを別に与えてあげれば少しは近づきますが、それでも限界がある。
人間が「なぜ」を問うときは、どのデータにも入っていない、自分だけが見た現象まで含めて原因を探ります。AIは、そこには入っていけないんです。
03 / Second Singularity「進化」の中身を、あらためて問う
大澤：
にもかかわらず、人がAIを完全に信じてしまうと、私が懸念していることが2つあります。
ひとつは、「第2のハルシネーション」です。ハルシネーションというと、データが間違っているケースが語られがちですが、そうではない。データは合っている。でも、そこに答えがないのに、無理やり答えを導こうとする。ＡＩに見えているのは原因ではなく結果しか入っていないデータだけど、コントロールされうる対象は原因の方。見えていない原因がコントロールされた結果を推論することはできないのに、未来予測の結果を出してしまう。言い換えれば、背景に潜む文脈が分からないことによるエラーが第2のハルシネーションです。
そして、人間はAIを「人間だ」と思ってしまうものだから、そこに知性を認めて、なんとなく引きずられていく。ここで起きるのが、「第2のシンギュラリティ」です。
みんな、AIがどんどん賢くなって人間を追い抜くのがシンギュラリティだと思っていますが、私は違うと思うんです。AIは、本質的に進化していない。過去10年、20年で起きているのは、スピードが速くなった量的な変化であって、質的には進化していないというのが、私の見方です。
ただ、人間の方が退化しているので、結果として追い抜かれてしまう。これが、第2のシンギュラリティだと思っています。
AIは、別に進化していない。
人間の方が、退化しているだけかもしれない。
坂本：
AIを使いこなそうと思ったら、人間の方がより賢くならないといけない、ということですね。
大澤：
そうだと思います。
坂本：
おっしゃる通り、Whyを適切に問いかけられないといけないし、それっぽい答えが返ってきたときに、より厳格に評価・判断できないといけない。私は「AIに甘えるな」と、社内でもよく言うんです。
大澤：
それはいいですね。
坂本：
Whyを投げかけただけだと、それっぽい答えは返ってきます。ただ、それが正しいかどうかはわからない。もう少しステップを区切ると、その手前の部分ではAIが得意なところもある。単純にWhyを投げかけるだけでなく、そういう使いこなし方もあるのかな、とは思っています。
ただ最近の「AIを使いこなす」という文脈では、どうしても「効率化」の話が先に来るケースが多いんです。行き着く先はそこではないと思っているのですが、出発点としてはわかりやすい。今あるものをこうすれば効率的になる、AIを使えば——そう言われると分かりやすいので、それがいい「口実」としてあるのかなと思っています。
04 / Reproducibility再現性のなさは、欠陥ではなく知性の証
坂本：
ただ、再現性がないと、効率化はむしろ難しいのではないかと思っています。これは結局、サイエンスではなく工学の話です。従来のシステムは、AイコールBならこう返す、という再現性があるからこそ成立していた。AIの世界では、そこに曖昧さが出てくる。だとすると、入口として「効率化」を求めて、今まであったものを置き換えていくということが、果たして正しいのかどうか——そのあたり、大澤先生はどう思われますか？
大澤：
なるほど。まず、AIに再現性がないというのは、その通りです。同じことを聞いても、違う答えが返ってくることがある。ただ、私の感覚では、それでも再現性がありすぎるんじゃないかとすら思うんです。
人間には、そもそも再現性がない。だからこそ、創造的でいられる。扱いにくい生き物なんです。人間を使って「効率化」しようとすること自体が、そもそも間違っていたのかもしれません。だとすれば、そこにAIを使うのは、人間よりはマシなのかもしれない。人間より、少し再現性があるという程度で。
従来の単なる計算機と違って再現性がないというのは、AIがある程度知的であることの証でもあります。だから、むしろそれをうまく使って、答えを揺らすという使い方の方がいいのではないか、という感じがしますね。
人間を「効率化」しようとすること自体が、
そもそも間違っていたのかもしれない。
効率化は、AIを使い始めるための正しい入口。ただ、大澤氏の言葉が示すのは、そこがゴールではないということ。AIの再現しない性質を、解消すべき欠陥としてではなく、揺らぎとして使いこなすこと——そこに、効率化の先にAIならではの価値創出がある。
再現性のなさは、AIの欠陥ではなく本質だという大澤氏。その先には、「データ連成」という理論が続く。後編では、AIと人間がどうバトンを渡し合い、それぞれの持ち場でイノベーションを起こしていくのか—に実践的な議論に進みます。
後編：『データ連成が拓く人間主導のイノベーションと組織の未来——AIの後ろを歩いてはいけない』はこちら →
（近日公開）
大澤 幸生 Yukio Osawa
東京大学大学院工学系研究科 教授
1995年、東京大学にて工学博士取得。チャンス発見学、データ市場設計学を自ら創始し、現在はデータ連成の研究を進める。人工知能学会業績賞（2022年）、AI ELSI賞（2025年）など受賞多数。Asia-Pacific Artificial Intelligence Association フェロー。編著書に『Chance Discovery』『データ市場』など。
坂本 尚也 Naoya Sakamoto
株式会社ウフル 取締役常務執行役員
1998年 早稲田大学教育学部 卒業、コンサルティングおよび事業会社における経営企画/事業企画を経て、アンツ・アイ・ビュー・ジャパン(BULB）に創業期より参画。ソーシャルエンタープライズ構築における、コアバリューの再構築、戦略立案に従事した後、2014年にウフルへ経営統合により参画。2020年7月当社常務執行役員、2022年9月当社取締役就任。
- Share
-
-
CONTACT
ご依頼・ご相談など、お問い合せはこちら