官方裁定社群媒體引發自殘！英14歲開朗少女突抑鬱輕生亡，生前竟被餵食千則負面貼文？【TODAY 看世界】

大家好，我是范琪斐，歡迎收看范琪斐的《Today看世界》。這起法院認證的「演算法殺人事件」發生在2017年的11月20日晚上，英國《衛報》報道，當天茉莉跟家人共進晚餐，飯後大家就跟數百萬英國典型家庭一樣，聚在一起看了一集熱門實景秀，茉莉的媽媽珍妮(Janet Russell)告訴警方，晚餐時間每個人的行為都很正常，父親伊恩(Ian Russell)回憶起當晚，說女兒說請照常收拾書包，準備隔天去學校上課，沒想到隔天一早差不多7:00 ，珍妮走進茉莉房間，映入眼簾的卻是女兒冰冷的遺體。伊恩說茉莉生前積極開朗又聰明，跟一般青少年一樣，喜歡音樂劇跟搖滾樂團，在學校表演中擔任主角，但家人注意到，茉莉生命中的最後一年，似乎變得有點孤僻，獨自待在房間裏的時間越來越多，但家裏有什麼活動還是會開心的參與，因此羅素夫婦就以為茉莉只是在經歷青春期。

寶貝女兒離世後，夫婦倆決定找出導致茉莉走上絕路的蛛絲馬跡。《紐約時報》報道，茉莉逝世後兩周，伊恩查看她的電郵時倒抽一口氣，用過圖片分享網站Pinterest的人應該都知道，平台會根據你感興趣的圖片推薦你類似內容，還會整理一份寄到你信箱，但平台上流出的內容很難監管就算了，令人傻眼的是竟然Pinterest還寄信給茉莉，推薦她：「十個你可能會喜歡的抑鬱症內容」，點開茉莉Pinterest的帳戶，還發現她把一個圖版命名為「沒什麼好擔心的……」，裏面就存了469張圖片，裏面包括自殘跟輕生等訊息，其他的則與焦慮和抑鬱有關。

2019年1月，伊恩決定接受《BBC》專訪，指揸Instagram是殺害她女兒的幫兇。接下來的描述可能令人感到不安或不適，擔心不舒服的朋友請斟酌，約30秒後再回來。伊恩秀出一張茉莉存下的插畫，上面是一個包着繃帶、像是雙眼皮挖除的女孩，抱着一隻熊躺在床上，下方寫着：「這世界好殘酷，我再也不想看到他了」，內容十分厭世。《BBC》實際撈了一輪，結果發現許多真人肢體流血、手臂被劃無數刀痕的影像，更糟糕的是這些內容釋放出鼓勵、煽動的訊號，例如天橋欄杆上寫着：「跳」，哇！這真的很誇張！或是上吊用的繩子圈成的「Go」、用刀在皮膚上刻出「死」的字樣，而且Hashtag又會帶你找到更多類似的內容，演算法也會餵你差不多的東西。那Instagram怎麼回應呢？當然是說他們絕對不允許宣傳或美化飲食失調、資產或輕生內容，而且強調會把它移除。

美國《財星》(Fortune)雜誌說，茉莉去世前， Instagram是允許大家在平台上發佈這些內容的，理由就是要讓有這些困擾的人互相扶持，直到《BBC》專訪播出後，鬧上了報章雜誌頭版，平台才制定了新政策，禁止所有資產的內容，但有關「IG上的自殘影像」的討論，早在2016年就出現了，但直到2019年IG在輿論炸鍋之後，才正式修改規定。

Meta發言人最近告訴《財星》說，今年四到六月間，該公司對Instagram上98.4%的輕生或自殘內容採取了行動，比兩年前多了4.6%，但《金融時報》指出，在一個擁有超過1,000,000,000用戶的網站上，就算只有1%的漏網之魚，也代表數百萬用戶可能看到，何況有心人還能靠故意拼錯單字、混用數字等障眼法來逃過封殺，後來伊恩決定請求法醫調查茉莉的案件，一般其實不會這麼做，但資深法醫沃克(Andrew Walker)看到茉莉的社群媒體內容後，就答應展開調查。羅素家透過倫敦警方取得茉莉的手機資料，經過一番搏鬥， Meta才同意交出茉莉過世前六個月在Instagram上保存、按讚或分享的16,300個內容，經過1000多個小時的分析，發現裏面有2100條與自殘、輕生跟抑鬱症有關，換算下來每天12條，她最後一次用手機上Instagram是在離世當天的凌晨12點多，那時存了一張有關抑鬱症的圖片。

9月27日的聽證會上，兒童精神科醫生Navin Venugopal說，她在很短的時間內密集看了茉莉生前接觸過的那些自殘內容後，覺得非常痛苦且不安，害他好幾個禮拜都睡不好，對成人都影響這麼大了，更何況是對一名14歲少女，絕對會讓他感到更加絕望。伊恩就痛批Meta「販賣苦辣」，將苦難貨幣化，利用人家的不幸來斂財，呼籲Met改變「有毒的企業文化」，但Meta派出來的代表拉岡(Elizabeth Lagone)卻一度辯解說，茉莉生前看到的厭世內容「是安全的」，因為它們都符合當時的內容指南，代表了一種「提高對用戶心理狀態的認識，並分享他們的感受」的嘗試，聽不懂嗎？我也聽不懂。結果被伊恩怒嗆：「如果這些東西是安全的，我女兒現在應該還活着！」後來拉岡才終於道歉。Pinterset高層霍夫曼(Jud Hoffman)倒是乾脆得多，他對茉莉所看到的感到抱歉，說那時候的平台並不是很安全，但也坦誠平台現在仍然「不完美」，違反政策的內容還是可能存在。網路媒體《Mashable》報道，雖然英國法醫地位唇膏，可以調查並且確認死因，但並非刑事或民事審判，因此Meta跟Pinterest都不會受到處罰，目前啦！但是茉莉的家人已經對兩家科技巨頭提出訴訟，希望能喚醒社會關注年輕人接觸到的社交媒體內容到底有多危險。《金融時報》說，儘管這不是審判，但聽證會結果標誌着社交媒體平台的一次「清算」，顯示世界各地政府都在努力確保兒童網路安全，也將對科技公司施加新的壓力，連英國威爾斯親王，也就是威廉王子，也罕見推文表示對此案的關切。根據統計，英國每年有大約200名學童尋短，茉莉絕非罕見個案，但「茉莉案」能獲得國際非常大的關注，主要是：第一，是全球首見，這樣的判決是第一次明確把社交網站的推薦系統作為死亡的肇因；第二，創立了新的調查程序，過程中他們要求兩家社群平台，也就是Meta跟Pinterest的代表出席，親自宣誓作證，當然這些人也只是替死鬼而已啦；第三，讓平台無所遁形，茉莉生前接觸過的暴力內容是在公開的法律程序中提出的，大家都可以看到這些東西有多令人不安。《紐時》說這幾千張內容是同類案件中數量數一數二多的，終於樣研究人員得以掌握平台長期以隱私為由隱瞞的細節。而針對兩名公司代表的質問，也暴露出平台擺明就知道他們的推薦系統「有毒」，可能導致傷害或危及生命。茉莉去世後，很多人都在呼籲要對青少年網路安全加強規範，2019年英國政府推出了一紙《網路危害白皮書》(Online Harms White Paper)， 2021年又發佈了「加強版」《網路安全法》(Online Safety Bill)草案，規定社群平台要迅速刪除有害內容，否則可能被罰幾億英鎊，目前法案正在議會闖關中，正式上路還得再等等。講到網路管制，我同意歐盟的「企業越大，責任越大」這個原則，我也知道待會下面留言就要罵翻了，但我覺得網路世界越來越大，很多科技人還說web3.0之後，網路世界就要超過實體世界了，所以怎麼可以不管呢？你能想像沒有警察的世界嗎？很多人會說，這樣會給平台跟政府太大的權利，最終會摧毁言論自由，但總要試着做吧？我覺得我們在民主國家，如果對政府沒有相當的信任，什麼都做不成，先設計好配套措施，讓政府還有市場機制來管平台，逼他們透明一點，就可以改正很多網路亂象，只要監督是多方並行的，權力不是集中在一個機構，要獨佔言論就會非常的困難，這是我想的，歡迎來留言告訴我你的想法。