今やほとんどのデザイナーがチャットボットに触れたことがあるでしょう。もしかしたら、クライアントからチャットボットの作成依頼を受けたことがあるデザイナーもいるかもしれません。
ボットが誕生してからというもの、私たちはそのディテールばかりにこだわってきました。そして、ボットを人間らしくするのがどれだけ大変かをクライアントに対して力説してきました。私たちは、ボットに名前を付けて台本を考え始めると、ボットを擬人化する傾向があるのです。
限られたコンテンツしかないようなシステム内で、数個のタスクだけを行うシンプルなボットであれば、この擬人化のアプローチはうまく機能するでしょう。デザイナーが擬人化をしてしまう理由を理解するのは難しくありません。デザイナーとして私たちは、人間中心設計を重視してきたため、「ボットの会話が人間のようであれば、ユーザーは最適な体験ができるだろう」と考えるのです。
そして、私たちはユーザーの期待に決して応えることのできない単純な機械をデザインすることになるのです。
単純な機械
ボットがやらなければならないたった一つのこととは、タスクを達成するために十分にユーザーを理解することです。これは私たちにとってもっとも基本的なことですが、大抵、ユーザーを理解したと考えるのは単なる錯覚に過ぎません。
ボットはユーザーのことを何も理解せず、キーワードに反応するよう設計されているだけです。こういったボットによる体験では、ただ情報を表示することしかできません。このような体験がカレンダーの通知と唯一異なるのは、人間の名前が与えられているという点のみです。
これは何も悪いことではありません。実際、人間と機械の会話について理解するもっとも純粋な方法です。このような基幹となる思考機械のことを、Grady Booch氏は「単純な脳（simple brain）」と呼びます。この機械には、性別や表情、共感といった人間らしい特徴は必要がありません。しかし、私たちデザイナーは「驚きや喜び」や「人間のような感情」といったものを入れたいと考えてしまい、会話体験を複雑にしてしまいがちです。人間中心の体験にするために、ボットが人間らしく振る舞う必要はありません。
人間らしいAIを作成すべきでないと言っているのではありません。そうすべきなのは事実です。そのようなAIを作ることができれば、現在のあらゆるプロジェクト以上に社会的・政治的にインパクトを与えるでしょう。
私が主張したいのは、我々はユーザーの問題を解決するツールとしてAIを選んでいるということです。単純な思考機械は、AIの可能性を提示するツールではありません。
単純な思考機械であっても、人間と機械の効果的な会話をデザインすることは十分に可能です。ツールに人格を与える必要はありません。これが「単純な脳」に対する単純なアプローチです。ボットに必要なのは、シンプルなデータを解釈して表示する能力だけです。解釈に知性が必要となるデータを扱うには、人間の知識を効果的かつ倫理的に、そして完璧に備えたボットが必要になるでしょう。
感じる機械
しかし、人間の頭脳はそこまで単純ではありません。もっとも単純なAIにとっても、この問題が障害として立ちはだかります。会話をデザインする方法だけでなく、ツールが学習するように訓練する方法も複雑になるでしょう。人間の知能にはあらゆるニュアンスや倫理観、共感などが含まれ、私たちは機械もそれらを備えて欲しいと思います。
しかし、同時に人間の知能にはバイアスや非合理があり、事実よりも経験に基づくという特徴があります。人間のためのAIデザインが意味するのは、陽気で愛想のいいテキストを作ったり、絵文字で謝ったりすることだけではありません。どんなに非合理的であろうとユーザーの言語行動を文脈に当てはめて、害を及ぼさずに価値を提供し続ける能力が必要なのです。
私はこれを、「感じる機械（Feeling Machine）」と呼んでいます。感じる機械とは、人間的な態度の有無に関わらず、基本的な思考機械として構築され、人間の態度のニュアンスを意味のある形で正しく解釈するものです。私たちは、形式とコンテキストの両面を考え、言語のやり取りも非言語のやり取り（顔認識など）も理解できるように、ツールを訓練しなければなりません。
「考える機械」から「感じる機械」に進化させるために、デザイナーは言語行動を理解して機械に組み込み、コミュニティを考慮する必要があるのです。
感じる機械を生み出す方法
私たちのデザインエージェンシー「Fjord」では、チームに思考や感情を訓練している機械について共生的に考えるように要求しています。私たちがデザインしているツールは、私たちの体験を全面的に拡張すべきものだということを忘れないでください。そしてその本質は会話の中に現れます。会話を機械と人間の間で交換される通貨だと考えることで、両者にとって効率的で満足のいくツールになるでしょう。
ストレステスト
通常、成功につながるデザインを始めるのに最適なのは、チーム全体が参加するワークショップです。第１段階として、ボットの選択についてストレステストを実施することから始めましょう。
- ビジネスが解消すべき問題は何か？
- AIの能力や複雑さを考慮したとき、ボットはその仕事に対して適切なのか？
- クローズコンテンツのシステムにするべきか、機械学習を利用するべきか？
- 誰がAIを監視するのか？
どのような種類の機械を使うのか同意したら、その内容をチェックする時間を取りましょう。データの偏りや、意図しないAIへの影響を防ぐもっとも簡単な方法は、データを収集して整理し、会社の外に出て、できるだけ多様な人でテストすることです。
機械が持つ性質
次に、チームとクライアントを一緒に集めて、機械が持つ本来の性質（イデア）を発展させましょう。この作業は、共同でペルソナを作るのと同じくらいシンプルになると思います。もし作りたい機械が、人間らしく人間の態度を解釈し、危害を加えないものであれば、機械自身が動機づけをできるようにデザインしなければなりません。ユーザーが何を求めているのか、何を手助けする機械なのか、どのように手助けできるようになるのか、タスクについて人間と同じように考えたり感じたりするのか、といった点を文書にまとめましょう。
また、自分のAIが、別のAIのために従事するような日が来るかもしれません。そのため、これらの思考や感情は、感情に訴えることなく、さまざまなインプットにより敏感に反応するべきです。
避けられないデザインの性質や、選択肢のない要求が発生することをチームに確認しましょう。どれだけ会話が人間的であっても、AIはつねに言いなりで、拒絶する能力がなく、文字通り疲れ知らずで、突然即興を始めることがない存在でなければいけません。学習が進むにつれて、これらの制約から少し「はみ出す」こともあるでしょう。しかし、重要なのは機械の本質的な部分を理解せず、盲目的に機械に人間的な特徴を与えようとしてはいけないということです。
感じる機械に向けて
作りたいAIにとって何が大切なのか理解できたら、ふたたびチームを招集して作業をテストしましょう。思考と感覚の両方をデザインする準備ができたことを確認してください。また、異なるチームメンバーがシナリオを実行する即興のセッションを実施し、それに応じてデザインのさまざまな方法を文書にまとめます。ポストイットを使って壁にボットの会話を図示しましょう。そして、ビジネスの目標やユーザーのニーズに対処できているか確認するために、フィードバックを求めて一緒に作業をしてください。このとき、デザインしている機械に対して真摯な態度でいることが大切です。
チームのほとんどからの合意を得ることで、今後のあらゆる作業に対する土台を整えましょう。コンテンツデザイナーやデータサイエンティストがボットの会話をデザインする場合は、想像しうるすべてのシナリオを彼らに伝えてください。
自分たちがしているのは、効果的な会話のデザインを超える作業だと理解しましょう。この作業には、私たちが実感している以上の問題を含んでいます。デザイナーは、機械が人間から学ぶように訓練するプロセスを開発し、所有するというユニークな機会を得ています。機械学習には、私たちが習得できるあらゆる人間性や共感、包括性を活用することが不可欠です。
