アカデミックな世界では倫理を問う委員会などが存在しますが、そこから一歩外へ出ると話は別です。そのためデザイナーは故意・無意識問わず、人を騙すような「偽装デザイン」を作ることができてしまいます。
大学院生だったころ、私は「偽装」に頼る多くの心理学研究を手掛け参加してきました。研究内容の偽装は、その研究の持つ意図を研究者が参加者に誤解させて、参加者が外的影響を受けないようにするために必要なものです。 研究倫理委員会は、インフォームド・コンセント（告知に基づく同意）に対する参加者の権利を侵害するという理由から、研究内容の偽装を決して好ましく思ってはいませんが、その必要性を正当化するような目的があれば、研究を制約し管理するという条件付きで承認しています。
Google Duplex
最近の開発者会議で、Googleは自動音声アシスタントのDuplexを発表しました。 Duplexでは、電話予約や、会議のセッティングなど、さまざまなタスク管理が可能です。
Duplexのデモンストレーションのために、GoogleはDuplexを使って近隣のサロンに予約をしました。そのときのビデオから、予約を受けた人は、電話の話し相手が実際の人間ではないと気づいていないことがわかります。
これは自然言語処理と音声シミュレーションの両方の観点からみて、飛躍的な進歩です。 ところで、Googleが行ったデモンストレーションの目的は何だったのでしょうか。テクノロジーがどれだけ向上したかを示したかったのでしょうか。それともバーチャルアシスタントが、いかに本物の人間らしいかを示したかったのでしょうか。私には、前者よりも後者を目的としたものであるように思えます。もしGoogleが過去のテクノロジーと比較してその素晴らしさを伝えたいのであれば、あらかじめ情報を与えられた参加者とともに、統制された研究を行えばよいのですから。
さらに、この発明はより大きな倫理的問題をはらんでいます。バーチャルアシスタントとやり取りする人は、相手が人間ではないことを知らされるべきではないでしょうか。人間そっくりのバーチャルアシスタントが、本来の目的以外で誤用されたり悪用される可能性もあるのではないでしょうか？
「悪しきことは行わない」というのがかつてのGoogleの企業理念でしたが、今ではできる限りのことはすべて行い、その影響を考えることついては後ろ手に回っている感じがあります。
ユーザーの目的にかなう形で偽装を利用しているのであれば、それは悪ではありません。 創造的で、興味深い体験の多くは、視覚システムを本質的に騙した目の錯覚から生じています。 たとえばゲームには、意図的にシステムの挙動を偽装してユーザーの目的にかなう体験をつくるいくつかの良い例があります。
PlayerUnknown’s Battlegrounds
PlayerUnknown's Battlegroundsと呼ばれる人気のモバイルゲームアプリは、最後に１人のプレーヤーが勝ち残るまでおよそ100人のプレーヤーが戦うものです。アプリが公開されたとき、プレイヤーはゲーム内に多くのボットがおり、そのためゲームが親しみやすい難易度になっていることに気づきました。ボットとは、コンピュータが自動操作する対戦相手（NPC）のことです。
プレイヤーによっては、自分のプレイスキルが実際よりも優れていると信じてしまうことで、よりゲームに没頭する人もいました。しかしユーザーがゲームをプレイするほど、このボットの数は減少する仕組みになっています。
この偽装の目的は、参加者がNPCとの対戦を通して練習することを助け、のちに経験豊富なプレイヤーと対戦するときに、上手くプレイできなかったりネガティブな経験をしないようにすることです。
ただ誠実にゲームを設計した場合、実際のゲームを楽しむ前に、ユーザーに何度もトレーニングゲームを強いることになり、今すぐゲームを楽しみたいという彼らの願いを奪うことになるでしょう。また初心者と経験豊富なプレイヤーがいきなり対戦することになると、どちらにとってもつまらなくなってしまいます。
感情を呼び起こす偽装
偽装は特定の感情的な反応を引き起こし、ユーザーに利益を与えるためにも用いられます。 ユーザーの体力状態をバー形式で示すゲームでは、どれだけ体力が残っているかを正確に見分けることは困難です。 デザイナーはこの曖昧さを利用して、緊張と興奮を呼び起こすことができます。
プレイヤーの体力全体が100％で、攻撃が数回ヒットした結果残りが50％になったとします。残りの体力を表すバーは半分空になりました。 彼らは再び打撃を受け、体力は残り25％になりましたが、残りのバーは４分の１の長さではなく、10から15％の長さを示しています。このように残りの体力表示を偽装することで、ユーザーの勝利に対する緊張感を高めることにつながるのです。
ゲームでは、正確性や体力表示の挙動は重要ではなく、感情的な関わりが最優先です。しかしゲームの場合とは違い、表示された情報に基づいてユーザーが判断を下す必要がある状況では、このような偽装の仕組みは不適切だと言えるでしょう。
デザインにおいて必ずしも悪とは言えない偽装
偽装を用いたデザインが必ずしも悪いわけではなく、その良し悪しはデザイナーの意図によって変わってくることは明らかです。しかし学術や政治の世界以外では、世論による判決以外には倫理的な監督役はほぼいません。
結局のところ、デザイナーは自ら倫理的な境界を定義し、自分たちのデザインが持つ意図に疑問を呈する必要があります。自分が目指すゴールが、所属する企業の目標と大いに矛盾すると感じるなら、ひょっとすると転職を考え始める時期なのかもしれません。
