読者です 読者をやめる 読者になる 読者になる

nohdomi's blog

EC、ファッションのITサービス、TOCfEによる問題解決

Facebookの実験は何がアウトだったの?

最近、こんなニュースがありましたね。

[CNET]FacebookのサンドバーグCOO、ユーザー感情の操作実験を謝罪
[telegraph]Facebook conducted secret psychology experiment on users' emotions

一部のユーザーに対し、ニュースフィードを操作して人の行動が変わるか?
という実験を、ユーザーへの説明無しに行った、ということで、問題になっているようです。

最初に概要だけニュースで見たとき、えっ?そんなにまずいの??というのが正直な感覚でした。

もし目の前に、確認したい仮定と実験できる環境があれば、同じようなことを自分でもやりそうな気がしたからです。個人の感想としては、そういう実験がまかり通るのは気持ち悪いけど、どの辺が、どれくらいまずかったの?というのが、ピンと来ない。(だから自分でもやりそうと思ったわけで)

何が問題にされて、どうすればよかったかについて、各ニュースサイトを確認しました。

実験の内容

  • 英語を使用するFacebookユーザー68万9003人が対象
  • 期間は、2012年1月11~18日
  • 対象ユーザーのニュースフィードを無断で操作
  • ポジティブやネガティブな言葉を含んだ投稿の表示を減らした場合のユーザー投稿の影響を確認

結果、以下のようなことがわかったそうです。

  • ポジティブな言葉の表示を減らされたユーザーの投稿にはネガティブな言葉が含まれる回数が増えた
  • ネガティブな言葉を減らされたユーザーの投稿にはポジティブな言葉が含まれる回数が増えた
  • SNSにおいても情動感染が発生することが証明された

(論文)「ソーシャルネットワークを通した大規模な感情の伝染に関する実験的証拠(Experimental Evidence Of Massive-scale Emotional Contagion Through Social Networks)」
Experimental evidence of massive-scale emotionalcontagion through social networks


NGの理由

[GQ]ニュースフィードは心理状態を変えられるか

「自社サービスの向上その他の目的でこうした実験を行う可能性があることは、ユーザーが加入時に目にする利用規約に書いてある」などというFacebookの言い訳は、明らかにたわごと(bullshit)だから無視しよう。問題は道義的側面が強く、裁判で勝ち負けを争っているわけではないのだから。また、最近WSJに加入したクリストファー・ミムズの「Facebookが強大な影響力を利用して、かつての新聞王ハーストがやったことと同じような世論操作ができてしまう懸念がある」という指摘も、あまり意味をなさないだろう。新聞記事は大抵の人が読んで分かるように書かれているが、Facebookが“操作”に利用した手段はアルゴリズムである。そんなもの、「私は今、コントロールされている」と気づける人がどれほどいるものか。Facebookのユーザーが12億人いるにしても、だ。

  • 人間を巻き込んだ実験を行う際には治験審査委員会の審査を受けて許可を得る必要があった

[GIGAZINE]Facebookがユーザーに無断で情動感染の心理学実験を敢行し公式に謝罪

アメリカでは政府から補助金を受け取っている大学などの機関が、人間を巻き込んだ実験を行う際には治験審査委員会の審査を受けて許可を得る必要があり、そのガイドラインの1つに「実験を行うには、実験を開始する前に被験者から許可をとらなければいけない」というものがあります。

  • 影響は、直接操作された人々だけではない

[TechCrunch]Facebookによるユーザー感情操作実験の倫理性

実験の影響を受けたのが、直接操作された人々だけではないということだ。報告書によるとポジティブおよびネガティブグループのユーザー15万5000人が、「実験期間中1回以上近況アップデートを投稿している」。つまり、何十万という近況アップデートが、〈ネガティブに誘導されたユーザーグループ〉から発信されたことになる。こうしたネガティブ投稿が、さらに同種の投稿を呼んだ可能性は高い。
 ・
 ・
感染は玄関では止まらない。
 ・
 ・
意図的にユーザーの感情形成を歪め、ユーザーの許可なく安全対策もなく、興味本位にネガティブ情報を広めることは別問題だ。無責任だ。


⇒利用者が、不可避な実験を、倫理的な問題に觝触することに対し説明なかったことが問題のようです。
しかも、約束も破ってる。そして、大事なことは、明確に測れない影響に対して責任も負っていない。
(明確に測れないから負えない・・)


あと、これまでもいろいろやらかした中、謝り方が下手だったというものありそうですね。
[ITmedia]Facebookの無断実験についてプライバシー擁護団体がFTCに申し立て

今回も最初の説明はこんな感じだし。(モルモットにしたことへの謝罪は無し)

[ITmedia]Facebook、無断で行った情動感染実験について謝罪・釈明

ニュースフィードの操作の対象となったのは全ユーザーのわずか0.04%(2500人に1人)であり、実験実施期間はわずか1週間、投稿は完全に非表示になったわけではなく、友達のタイムラインには表示されていたと釈明した。
Facebookにおけるわれわれの研究の目的はよりよいサービスをユーザーに提供する方法をさぐることだ。(中略)この実験についてなぜ懸念を表明する人がいるかを私は理解しており、この論文の表現が引き起こした懸念について著者一同非常に申し訳なく思っている」とクレイマー氏は謝罪した。

ユーザーや多数のメディアがこの実験について問題にしているのは、被験者の人数や実験期間ではなく、インフォームドコンセントの手順をとらず、ユーザーに無断でFacebookがユーザーを“モルモットにした”ことなのだが、この点については謝罪していない。


しっくり来ないものばかりだけど、擁護論だけ集めた記事もありました。
[GIZMODE]フェイスブックの感情伝染実験で怒るのはおかしい?

  • 利用規約で、説明はしている(同意はもらってるという解釈)
  • 民間だからインフォームドコンセントは不要という意見もある
  • 感情操作なんて、テストということで他社もやってる(GoogleYouTubeTwittereBayAmazon etc)
  • 治験審査委員会の見解も、リスクは最小限と言っている
  • 結局、公表してんじゃん(しただけマシ)



どうすればよかったの?

  • 事前に実験に対する説明を行う
  • 実験の意義について検討を行う

[CIOニュース]Facebookのニュースフィード心理実験、「この世の終わりにはあらず」

今後Facebookが心理実験を実施するとしたら、極秘で不気味に行うのではなく、オプトインでオープンに行う必要がある。また、こうした形でユーザー相手の実験を行うことに本当のメリットがあるのかどうか熟考することも必要だ。

この辺に尽きるようですね。


個人的な意見

実験自体は、「あり」だと思っています。

こういう実験による影響は、デリケートな問題です。
例えば、利用者が暗い気持ちになって、それで家庭や友人間の不和が発生したり、利用者が自傷に及んだ場合、そのことに対する道義的な責任を考えざるを得ません。

でも、私が「あり」だと思っている理由は、仮定を確かめるには、机上の仮説検証より実験が早く結果が得られるためです。

今回の実験により人や人間関係にダメージを与える可能性は否定できませんが、自分が現実世界で、苦しむ家族や友人に向き合っているとき、その人を助けるために少しでも早く効果的な対応を知りたい、と考えたとき、実験という手段を考えても仕方ないと感じます。(今回の実験の関係者がそう感じているかはわかりません)

結果を早く知りたい、という気持ちを私は止めれませんし、自分もそうするという意味で、実験行為については、「あり」と考えます。

ただ、道義的責任について無いとは言えないし、責任は実験の動機の善悪とは無関係です。
だって、傷つく人はいるわけだから。

手段として、傷つかない方法があれば、それを採用すべきだし、検討すべきです。

ただ繰り返しますが、実験する(仮定を検証する)ことに関しては、是だと個人的に考えています。
(この「是」の部分は、個人の思いなので、議論をふっかけられても変える気はありません。)

昔は、実験自体を否定する立場だったと思います。誰かの都合で、人を傷つけていいとは思えなかった。
でも、喫緊で助けたい人が身の回りにいたり、この人にこのサービスを届けたいと思うことがあると、少なくとも実験自体を否定することは今の自分には難しいです。

時間を気にしない人生なら、答えはたぶん違います。今は、少しでも短い時間で、何がしか貢献できることなら、何でもしたい、というのが正直な気持ちです。

自分が実験する場合には、注意しようと思います。