アンケートの調査結果をゆがませる9つのバイアス

Jeff Sauro

統計とユーザビリティのコンサルティングを行っている会社、MeasuringUの創始者です。20以上の記事、統計とユーザーエクスペリエンスに関する5冊の本の著者です。

この記事はMeasuring Uからの翻訳転載です。配信元または著者の許可を得て配信しています。

9 BIASES THAT AFFECT SURVEY RESPONSES (2016-09-27)

「あなたは年に何時間ボランティア活動をしていますか?」

「ネットの記事は、ビジネスで成功するために価値ある情報を提供していると思いますか?」

アンケートの質問を書くには、技術と理論が必要です。その方法が書かれている書籍も数多くあります。

しかし、適切に質問が書かれたアンケートであっても、バイアスが調査結果に紛れ込んで、回答や結論を歪ませてしまうこともあります。

アンケート調査は、見込み客や既存ユーザーの特徴(誰なのか、何を思っているのか、何をしているのかなど)を把握するもっとも効果的な方法です。

この調査で得られたデータが、セグメントやペルソナ、実現可能性、機能の優先順位などを決める判断材料になります。

相互に排他的でない選択肢やダブルバーレル質問(1つの質問で2つのことを問う質問)といった、明らかな間違いもあります。しかしバイアスは、そのような顕著な問題よりも見つけにくく、致命的になる可能性が特に高いのです。実際に、調査結果に影響する数多くのバイアスに対して、必ずしもはっきりした改善策があるわけではありません。しかし、バイアスのことを知っているだけでも、望まない影響を減らす助けになります。

編注:アンケートで注意するべき間違いについてはこちら『アンケートの質問作成で気をつけたい12のチェックポイント

文献(pdf)と調査結果をもとに、よくあるバイアスを9つ紹介します。一部のバイアスについては、バイアスを修正するアイデアも載せました。

1. 社会的望ましさと社会への適応

リサイクルは企業が取り組むべき重要な取り組みだと思いませんか?

毎晩自分の子供に何時間本を読み聞かせていますか?

家族の食事を考えるのに、平均して何時間費やしますか?

社会的に望ましいこと(リサイクル、子供への読み聞かせ、家族の世話)について質問するとき、回答者は良いように答えたり、誇張したりする可能性が高いです。このような社会的望ましさに加えて、人間はインターネットでも実世界でも集団の規範に従いやすいということが、多くの研究で示されています。

事実、明らかにおかしい(pdf)状況であっても、広く容認されていることに逆らうよう回答者を説得するのは困難です。つまり、回答者は本当の答えを隠して、社会的に受け入れられる回答をする傾向があります。

2. 同意と黙認

手持ちのコーヒーマシンに違う要素が欲しいですか?

Wordのメールマージ機能を使っていますか?

回答者は質問に同意(黙認)し、アンケートのどの質問にも肯定的な回答をする傾向があります。このバイアスを最小限に抑えるもっとも優れた方法は、単に「はい」か「いいえ」を聞く代わりに、選択肢から選んでもらうか、強制選択尺度(中立の選択肢を設けない尺度)や順位付けを用いることです。

注意:黙認のバイアスを最小限にとどめる一般的な解決法は、点数の尺度を逆にすることです。しかし、点数の尺度の項目を逆に並べると、実際には誤った結果となってしまう可能性が高いことがわかりました。

3. 順序

質問の順序は重要です。アンケートにおいて製品やブランド、出来事について述べてから質問をすると、親密度や態度の点数が変わってしまうことがあります。最初に一度ブランド名を出すだけでも続く質問や調査結果に影響するので、特にブランディングや認知度の調査では悪影響が大きいです。

また、選択肢も重要です。回答者が前の質問にあった選択肢を覚えていたら、のちの質問でも同じ回答を選ぶ可能性が高いでしょう。質問を適切に配列したり、ランダムに並べることで、大抵の順序効果は処理できます。

4. 名声

あなたは会社のITの購買決定にどれ程の影響力を持っていますか?

あなたの収入と最高学歴は何ですか?

回答者は、自身の収入(特に男性)や学歴、権力、名声の評価を誇張しがちです。しかし、アンケート調査においては、誇張は完全なる嘘や不正行為というわけではありません。名声に関わる質問では、答えは回答者にとって好ましいように脚色されていると仮定してください。どの程度脚色するかは、質問やコンテキスト、回答者によって変わります。

5. 脅威と敵意

直近の交通事故についてお聞きします。そのとき保険会社のモバイルアプリを使いましたか?

不愉快な出来事に関する質問は、回答者を不適切な心理状態にしてしまい、その後の質問に否定的に作用するかもしれません。回答者がアンケートに対して敵意を持つと、態度(pdf)に影響を与え、結果的に回答も変化することが研究で証明されています。

配偶者に関する一見無害に思える質問であっても、離婚や死別といった過去の嫌な経験を思い出して、ネガティブな思考になる回答者もいるかもしれません。特定の層にとってセンシティブな質問や、ネガティブな思考にさせる可能性のある質問は、できる限りアンケートの最後に移動させましょう。

6. アンケートの作成者

アンケート調査を誰が実施しているのか回答者が知っていると、結果に影響が出る可能性が高いです。もしソーシャルメディア体験についてのアンケートがFacebookから依頼されたものだと知ったら、Facebookに関する意見や感情が回答に影響するでしょう。

ブランドへの態度や認知度など、繊細な調査の場合は特に大切です。アンケートへの招待メールにブランド名が記載されていたり、アンケートの最初に企業名とロゴが存在したりするだけで影響が出るかもしれません。このバイアスを最小限に抑える最善の方法は、可能な限り実施者をわかりにくくしたり、第三者の調査会社を利用したりすることです(私たちの会社の宣伝です)。

7. ステレオタイプ

性別、人種、専門能力、教育などの社会経済的なテーマは、回答者が感じているステレオタイプを強め、結果、回答者にステレオタイプに沿った行動をとらせる可能性があります。

たとえば、機械音痴な人の年齢、計算能力が高い人の性別、知性が高い人の教育レベルといったステレオタイプを思い出すと、回答者がアンケート中ステレオタイプに左右され続けてしまい、以降の回答に影響が出るかもしれません。

8. キャリーオーバー効果

最後に引っ越しをしたとき、情報サイト「Craigslist」に何点の不用品を出品しましたか?

全体として「Craigslist」のWebサイトにどれくらい満足していますか?

上の2つ目の質問に対する答えは、1つ目の質問の、引っ越しという文脈に影響されます。1つ目の質問で引っ越しと「Craigslist」の利用について評価したことは、2つ目の、「Craigslist」全般というより広範囲な質問に回答する際に影響を与えるでしょう。アンケート実施者が意図していなくても、回答者は、引っ越しのときに「Craigslist」をどのように利用したかについて考え続けているかもしれません。

キャリーオーバー効果は、質問の順番を工夫することで弱められることもあります。しかし、回答者が同じアンケート調査で複数のマインドセットを求められる場合、このバイアスを完全に排除するのは難しいです。

9. 嫌なことは忘れようとする

初めてiPhoneのコマーシャルを見てから購入するまでに、どれくらい掛かりましたか?

記憶は変わりやすいもので、私たちは一般的に、正確に出来事を覚えるということがひどく苦手です。人間は、現在信じていることと適合するように記憶をゆがめる傾向があります。これは認知科学などでテレスコーピング現象と呼ばれています。回答者はある出来事を思い出すときに、実際よりも前に起こったと伝えたり(逆向テレスコーピング)、実際よりも後に起こったと伝えたり(順向テレスコーピング)します。

回答者が特定の出来事や行動を思い出すことに頼っているアンケート調査はたくさんあります。しかし、実際には回答者は、起こっていない出来事を想起したり、出来事の詳細を忘れていたりしているかもしれません。

バイアスが調査結果を無駄にするわけではない

アンケート調査にバイアスが掛かっているからといって、調査結果が無意味になるわけではありません。重要なのは、バイアスが調査結果にどのように影響を与えるかを理解することです。ある意見に同意する人の割合、高所得者といった特定のデモグラフィクス、購買決定への影響といった、母集団における割合を調査しようとしている場合には特に重要です。

バイアスをすべて見つけて取り除く魔法はありませんが、バイアスを意識しておくことで、調査への悪影響を防ぐことができるでしょう。バイアスを特定し、影響を減らすアイデアや、よくあるアンケートデザインの落とし穴については、また別の記事で取り上げます。


Banner jobs