Facebookは、自殺の危険にさらされている人々を発見するよう自社のAIを教えている

ここ数カ月、フェイスブックは自社の共同創設者や元スタッフからの反発に直面している。ショーン・パーカー氏は、マーク・ザッカーバーグ氏と並んで、「人間の心理の脆弱性」を悪用するために故意にソーシャルネットワークを作成したと述べ、それが子供たちの脳にどのような影響を与えているかについて懸念を表明した。 「いいね！」ボタンの発明者であるジャスティン・ローゼンスタイン氏は、人々をソーシャルメディアに夢中にさせてしまったことを後悔していると認めた。

この風評被害の一部を取り消し、ユーザーを真に支援するために、Facebookは自殺防止ツールを拡大する計画を発表した。

次を読む: 落ち込んでいませんか?オンラインのヘルプとサポートを受ける方法

これはまったく新しい取り組みではなく、自殺予防ツールは 10 年以上前から Facebook の一部となっているが、同社は AI の利用で取り組みを強化している。 Facebookは、米国での最近の試験に基づいて、手動報告がなくてもサイトが介入できることを期待して、以前に自殺フラグが立てられた投稿に対してパターン学習を使用している。プライバシーと安全性に関して、これは明らかに難しい一線であるため、Facebook はこれに対していくつかの工夫をしています。

1つ目は、ユーザーの友人に対するナッジの形式です。 AI が過去の自殺報告と一致するテキストのパターンを検出した場合、その投稿を「自殺または自傷」として報告するオプションがその投稿と並んでより目立つように表示され、友人が介入しやすくなる可能性があります。 facebook_自殺予防

また、同社のコミュニティ運営チームによるレビューのためにこれらの投稿に自動的にフラグを付ける機能もテストしている。 AI の疑いが人間の目で確認された場合、友人の介入がなくても、サイトはその人にリソースを提供します。ザッカーバーグ氏は個人の Facebook ページへの投稿で次のように説明しました。「今日から、誰かが Facebook 上で自殺についての考えを表明していることを特定し、必要なサポートを迅速に受けられるようにするために、AI ツールをアップグレードしています。先月だけでも、これらの AI ツールのおかげで初期対応者と迅速につながることが 100 回以上行われました。

「AI が将来どのように有害になるかについてのあらゆる不安がある中、今日 AI が実際にどのように人々の命を救っているのかを思い出してみるのは良いことです。」

自殺は若者の主な死因であり、FacebookはSave.org、全国自殺予防ライフライン「1-800-273-TALK (8255)」、Forefront Suicide Prevent、および初期対応者と緊密に連携して継続的に改善を行っていると述べたソフトウェア。

危険にさらされている人々がAI介入にどのように反応するかは未解決の問題であり、Facebookの詮索好きな目から行動の警告サインを単に遠ざけるだけの可能性がある問題です。プライバシーと行動の緊急性のバランスについては、明らかに社内で議論の種となっています。 Facebookのプロダクトマネージャー、ヴァネッサ・カリソン・バーチ氏はBBCに対し、同社は友人や家族に直接知らせることなど、あまりにも侵襲的であることと効果的な対応のバランスを取る必要があると語った。 「私たちはプライバシーに敏感であり、そのような意味で人々とその友人の間の個人的な力関係を常に知っているわけではないと思うので、私たちはサポートとオプションを提供する何かをしようとしています」と彼女は説明しました。

AIはこれまでFacebookのよりリアルタイムなサービスに統合されていなかったが、同社はFacebook LiveとMessengerの両方を危機に直面している人々にとってもさらに役立つものにしようとしてきた。連絡や報告を行うための既存のツールは Facebook Live ブロードキャスト サービスに組み込まれており、Messenger にはユーザーが Crisis Text Line、全米摂食障害協会、全米自殺予防協会などのサポート サービスにリアルタイムで接続できるオプションが追加されました。ライフライン。 facebook_prevent_suicide

最近のトライアルを発表したブログ投稿で、同社はその動機を説明した。主に、変化をもたらす力があるからである。 「専門家らは、自殺を防ぐ最善の方法の一つは、苦しんでいる人が自分を気にかけてくれる人から話を聞くことだと述べている」とブログ投稿にはある。 「Facebook は、サイト上の友人関係を通じて、苦しんでいる人と彼らをサポートできる人々を結びつけるというユニークな立場にあります。」

それは確かに真実かもしれませんが、これらのアップデートが到来した広範な状況を無視するのは愚かです。今年はすでに Facebook Live 上で自殺に関する放送が多数報告されており、これらの追加ツールが自殺を防ぐために何も役に立たなかった可能性はあるが、ソーシャル ネットワークが問題を無視していると見られるのは良いことではありません。

次を読む: 「13の理由」に関連した自殺検索が急増

Facebook が人工知能を使ってサイトをより居心地の良い場所にしようとしたのはこれが初めてではない。2016 年 4 月に同サイトは、視覚障害のあるユーザーに画像の内容を説明するために AI を使用していると発表した。 AI研究に特化した研究所が3つあり、人工知能の学習対象となる約20億人のユーザーがいることから、Facebookが機械学習の問題を解決しようとするのはこれが最後になる可能性は低い。

また、危険にさらされている人々を特定するためにAIがこのように使用されるのはこれが初めてではない。ピッツバーグ大学とカーネギーメロン大学の研究者らは、感情や複雑な思考を識別するよう以前に訓練されたニューラルデコーダーを使用して、自殺念慮や自殺行動の兆候を発見できるアルゴリズムを最近開発した。

次を読む: 自殺、うつ病、テクノロジー業界

研究者らは機械学習アルゴリズムを脳スキャンに適用し、ソフトウェアは脳の活性化パターンの変化を利用して、その人がリスクのあるグループに属しているかどうかを91%の精度で正確に識別した。

追跡テストでは、ソフトウェアが以前に自殺未遂をした人を識別できるかどうかを確認するために、自殺念慮に関連するグループの人々の脳スキャンに特化してAIが訓練された。それは94%のケースで正しかった。

あなたまたは愛する人がこの記事で提起された問題の影響を受けている場合は、オンライン ヘルプとサポート ガイドでサポートとアドバイスを受けることができます。また、1116 123 でサマリア人たちに 24 時間無料で連絡することもできます。また、若者向けの支援グループ Campaign Against Living Miserively (CALM) に電話で 0800 585858 で連絡することもできます。