「人工知能の副作用」に対して神経質になるビジネスリーダーたち

ニューヨークで開催されたAIサミットにチェアマン、プレゼンターとして参加してきた。参加者がみな人工知能（AI）に安心し、そしてワクワクしていたことを報告したい。

失礼。もちろんデータサイエンティスト、AI開発者、AIベンダーなど、当然AIに馴染み、興奮するような人たちばかりが集まっていたのだから当然だ。ビジネスリーダーや専門家にとって、AIに対する安心感や受け入れ態勢は、それほどスッキリとしたものではない。

AIが発展し、その価値が証明されるにつれて不安は少なくなるのかもしれないが、多くの人たちはまだ神経質になっているように見える。AIの導入を阻む最も顕著な要因の1つは、未知のものに対する恐怖心だ。これには、バイアスに対するもっともな懸念、データに対する不信感、機械に制御を委ねることに対する抵抗感などがあり、意思決定者はAIに対して神経質になっている。もちろん、実際のお金、それも多額のお金がかかることも理由だ。結局のところ、AIは実体というより流行で終わりかねないという懸念があるのだ。

AIに対してくすぶるそのような疑念が、先にハーバード・ビジネス・レビューに掲載された。これはハーバード大学のレベッカ・カープとアティカス・ピーターソンの研究をまとめたものだ。2人は「私たちが現在行っている数十社の企業との調査によれば、AIソリューションが採用されないありがちな理由は、リーダーがAIの導入が自社にどのような影響を与えるかを心配しているからだ」と指摘している。「彼らは、新しい技術が仕事を置き換え、職場のダイナミクスを破壊し、習得のための新しいスキルを必要とするかもしれないことを恐れて躊躇する」

新しい手法にお金をつぎ込んでも、そこからどこへ向かうのだろうか。「新しいテクノロジーを導入する際に神経をすり減らし、時間とリソースを浪費することは解決策ではない」とカープとピーターソンは述べている。「むしろ、リーダーはAI技術の導入を戦略的に進める必要がある。多くの場合、組織は革新的なイノベーションの開発や獲得には多大な資源を費やしているが、それをうまく展開する方法については十分に考えていない」

AIが経営層の間で複雑な感情を掻き立てていることは、さまざまなレイヤーの業界専門家も認めている。BlueTail（ブルートテイル、後にSalesforceに売却され現在はSalesforce Einstein）の創業者で、現在はPlanck（プランク）の創業者でCEOのエラッド・ツォーは「AI導入における最大のハードルの1つは、無知と未知への恐怖であることがよくあります」と語る。

グローバルな法律事務所DLA Piperのパートナーであるダニー・トビーは「AIを離陸させない力には、正反対に働く2つの力、すなわち恐怖と不合理な高揚の2つがあります」と同意する。「多くの人はAIを理解していません。そのためその意図しない結果を心配するあまり、企業にとって価値を生み出す可能性があっても、現実を直視せずに目を背けてしまうのです」

逆に、誇大広告に踊らされ、期待を裏切られることもあるとトビーは続ける。「AIへの期待がとても高まっているため、AI ができることとできないことについて非現実的な期待を抱く人もいます。そうした人は、AIをクリエイティブな能力を持つ真に自律的な思考機械とみなすSF的な視点で取り組んでいますが、現実には現在のAIの力は深いけれどもとても狭いものなのです。データのパターンを探して問題を解決することはできますが、問題とは何かはまだわかっていないのです」

AIに対する心配が解消されるまでには時間がかかるだろう。それは、AIがもはや「AI」ではなく、プロセスの標準的な一部となるときかもしれない。OvalEdge（オーバルエッジ）CEOであるシャラド・バーシュニーは「AIがすべてのビジネスアプリケーションに標準として完全に組み込まれるまでは、多くの組織で、このテクノロジーのパワーと複雑さに対する恐怖が残るでしょう」という。「多くのビジネスユーザーは、AI技術を重要なビジネスタスクに利用するというアイデアに圧倒され、その採用に慎重になっているのではないでしょうか。だからこそ、統合を進めることが基本だと思います」

重要なのは「AIは完全に管理可能だ」ということをビジネスリーダーに理解してもらうことだとバーシュニーは続ける。「ITインフラにAIを組み込むと、その面でのコントロールができなくなるという誤解があります。むしろ、その逆なのです。AIや機械学習によって、テクノロジーは独自に成長・発展することができますが、最終的なコントロールは常に管理者側にあります。AI技術は特定のビジネスプロセスを支援し、ユーザーの指示に基づいてその成果を実現するように設計されるのです」

ツォーがいう「AIへの不安は、ビジネスに対する危険ではなく、価値を示すことで徐々に和らげることができます。たとえば、AIを使った顔認識システムについては、当初は懐疑的な見方が強かったのです。たとえ99％以上の精度を誇っていても、AIが人間の能力に匹敵する、あるいは上回ることができるのかどうかと人々は疑っていました。しかし、顔認識技術に関する米国標準技術局（NIST）の最近の調査によれば、AIは統計的な精度の向上を実現するだけでなく、単調な手作業の繰り返し作業が引き起す可能性のある注意散漫も排除してくれることがわかりました」。顔認識システムにもバイアスがかかるという懸念があったが、これは修正されつつあるとツォーは付け加える。「一般的なデータ収集が制限される、身体的障がい者や宗教的な覆いをまとった人を含め、すべてのグループに対応できる顔認識モデルの訓練とプロセスの作成が可能です」

AIを導入する際には、2つの基本ルールがある。Greenberg Traurig（グリーンバーグ・トラウリグ）の知財弁護士であるアンドリュー（A.J.）ティベッツによればその2つとは「ゴミを投入したら、ゴミが得られるだけ」「相関関係は必ずしも因果関係を意味しない」だ。「この2つは、企業が単にデータをモデルに通し、その出力を盲目的に信用してはならないという包括的なルールとなります。AIを確実に活用するためには、問題を十分に理解し、その包括的な理解を踏まえて十分なデータを収集し、そのデータをAIで処理できるように準備する必要があるのです。また、問題を包括的に理解することで、AIの出力を再確認することもできます。『相関関係は因果関係ではない』という格言はよく知られていますが、AIの有望性に感化され、導入に向けて焦る一部の人には見落とされることがあります。AIを適用する問題を十分に理解していれば、AIから得られる答えをより簡単に正当に評価することができ、その先の誤解を避けることができるのです」

ティベッツは、常に人間を関与させるようにとアドバイスする。「AIは、推奨事項の生成したり、人間のオペレーターが打ち消すことのできる初期段階の決定を下す際に、特に役に役立ちます。AIシステムがパターンや傾向を誤って認識するリスクは常に存在し、その結果、システムが勝手に動作して誤った判断を下すリスクがあります。そのため、AI システムは、与信申請者が十分な信用力を示しているかどうかについての評価をできるかもしれませんが、その評価内容を人間が再確認することは非常に重要なのです」

2022-12-26 20:28:45