科技與社會責任
這個週末颱風不能出去玩，就在家裡看了《 The Social Dilemma》這部紀錄片，裡面找了滿多曾經擔任矽谷的社群媒體公司工程師或是主管的人，做了一些對整體科技業的反省。裡面提到了滿多發人深省的點，尤其是對一路受科技教育到科技業上班的我來說，一直覺得理所當然的許多功能或KPI，竟然能引發出這麼多的問題，想想身邊從來沒聽過身邊的人討論，也突然覺得滿可怕的。在此非常推薦各位在科技業從業，或是有在使用社群媒體的人們，可以認真看一下並思考這部紀錄片。
今天就把自己的想法寫下來，期望未來的自己，已經找到一些答案，也盡力的在做對這世界最好的事吧。
You are the product
這整部影片的大綱就是圍繞在這樣一句大家耳熟能詳的網路諺語：「如果你沒有付錢取得商品，那你八成就是商品。」說實在的，我早在好幾年前就聽過很多這樣的說法，但是大部分的人的解讀是很膚淺的，只說平台要賣你個資啊，要拿你資料去Train Model啊，這些其實都是很籠統的，我聽完的第一反應就是，沒差啊，你拿去啊，反正我爛命一條。
不過，更認真思考一點的人會說，重點不是你的個資、你的隱私，重點是他們是為了獲得你的「注意力」。這仔細想想有點可怕，但抓住注意力這件事情，其實是很久以前就出現的行銷觀念，並不是Facebook自己發明的。大家多多少少聽過marketing team常用的一個KPI: bounce rate：希望能讓用戶「完成一系列的動作不離開網站」，並且以此作為網站成不成功的指標。其實我們也不難猜測Facebook或IG這類社群平台，他們的產品衡量指標一定有：讓你對下一篇貼文感興趣，讓你在網站停留久一點，這不是跟傳統線上商店很像嗎？不過在FB的情境下，讓用戶停留的目的就不一定是購物，而是多看點廣告。
User Experience for users? Or for us?
很多東西，都被混在一起，稱為「使用者體驗優化」：越好的體驗，越能讓用戶享受這個App；越流暢，越是能增加大家好評率。如何讓人心情雀躍的使用者個App，客製化你的App，或是如何最簡單地告訴你所有功能在哪裡，這些似乎是產品設計師每天在問自己的問題。
但我覺得這中間有一條很細的線，很多人不小心就跨過去了，從「讓使用者開心做他們想做的事」，變成「讓使用者開心做我們想讓他做的事」。影片中有一句話我印象深刻，他說
工具沒有好壞，就像一台腳踏車，不會有人說叫踏車造成各種社會問題。但一個工具如果有了自己的目的，它就不再是工具。
我們在做的產品，是工具嗎？
如果你在做的是一個付錢就讓你使用的工具，例如PhotoShop、Evernote，那麼我覺得沒有太大問題，但是像是社群媒體這之類的產品，他其實背後隱藏了很多自己的「目的」：例如Facebook這個平台，八成希望用戶停留的越久越好；或是像YouTube，讓用戶看越多影片越好。如果到這一步，那Facebook就不再只是一個關注朋友的工具，YouTube也不再只是一個瀏覽影片的工具。
當我們在工作的時候，往往整個團隊只注重一些特定的KPI，但幾乎不會時刻檢視我們到底做這個東西對使用者有什麼影響，以及這究竟是不是對使用者最好的。
試問，在做購物車流程優化的設計師，有沒有反問過自己：「為什麼我們希望推薦用戶在腦波弱的時候多買商品呢？這樣對他真的是好的嗎？」在做貼文推薦的工程團隊，有沒有問過自己：「為什麼我們只推薦他看到他最想看的貼文，而不是真正對他最有幫助的貼文？」
這是一個很恐怖的陷阱，我相信許多在科技業的人也早在到職第一天就已經掉入這個陷阱裡面。我自己回顧了一下自己的工作，認真想想後發現，其實有很多時候我們公司自己也跨越了那條線：不只是為了幫助用戶「做他們想做的事」，有時候我們是在引導用戶做「我們希望他做的事」。例如：完成一筆交易、法幣入金。其實如果我們知道使用者是新手，我們應該盡量解釋使用我們產品的風險，但是時常我們會為了要賺錢，讓最終目標變成是「有最多的用戶來使用我們的產品」，所以我們更常思考如何「聰明的」說服使用者，如何秀出不是非常準確的獲利數字吸引使用者，等等等。
若是我們提供的服務不再只是單純的「工具」了，而是夾雜了一些公司自己的目的時，或許這個產品就已經在背離自己的Mission了。只是很多時候，我自己都沒有發現、可能連老闆也都沒有發現罷了。
人工智能的恐怖之處
先不要緊張，我不是科技黑，我也是真實的AI信徒。我很期待人工智能的發展，但是我更同意影片裡面說的一句話：
We’ve been waiting for AI to beat human strength, but the truth is, AI has already beaten human weakness.
當世界上大部分的人都在期待自駕車，AI 機器人踢足球，AI會下象棋等「跟人類競技」的問題時，其實忽略了一個重要的事：AI早就已經「發現人類的弱點」，而社群媒體就是最好的例子。
透過公式化的「優化」，AI已經有辦法在幾千篇文章中，選出你會最感感興趣的那一篇文章、最不可抗拒的一則廣告、或是就是想點下去的下一部影片。這不是在跟我們做競技或是比賽下圍棋了，而是透過數據與運算的力量，自己「暴力破解」人類的心理學。大家應該都知道，心理學有趣之處就在於，大部分的人對於自己如何思考或是如何做決定，是非常不了解的，因此常常有許多「偏誤」的出現或是可以被拿來利用的弱點。現在Machine Learning在Learn的過程，就好像一次對全世界的用戶做心理學實驗一樣，一個訓練好的推薦模型，就是結合了幾百萬人真實變因與結果的「科學統計結果」。這種輕鬆打破人的心理的科技，最直接造成的兩個問題就是科技成癮與群眾意見的分化。
科技成癮
其實這應該不難預料，因為讓大家一直待在App上，就是各家公司的KPI。可能很多人會覺得，我是人，我受過高等教育，我有辦法控制自己不被社群媒體所控制。但是實驗結果是大家都低估自己真正使用手機的時間，也就是我們已經下意識地被許多吸引人的功能給控制住了。其實仔細想想，這些「誘惑」的背後，是無法想像的高運算能力、配上美國頂尖名校的畢業生們每天都在優化的預測模型。你真的覺得他沒有辦法透過你的行為，打破心裡的防線，讓你上癮嗎？
還記得四五年前，曾經爆發一波「Google 在監聽」的網路流言。那時候很多人跳出來說，跟朋友們在一起聊天的話題，查都沒查過就在廣告裡跳出來（包括我也有這樣的經驗），因此一定是被監聽了。我記得那之後有看過一篇FB工程師出來寫的文章，大意是說，你們都以為我們在監聽，但其實我們不需要監聽就能做出相當於監聽你們對話的預測，例如利用每個人位置訊號算出誰在跟誰聊天，用大家各自的搜尋結果推算聊天的內容再推薦給大家等等。我當時看完只覺得，靠，AI太神了。現在覺得，要是五年前真的如他所說能做到這些事情，那麼這五年後的今天，進步到什麼準確度已經不敢想像。
群眾分化
另一個比較嚴重的副作用就是「分化」。假如Google要推薦你一篇你最可能感興趣的文章，若是它已經知道你的政黨傾向，就很自然的會推薦你偏好的言論，但長期這樣做的話，人會完完全全的被埋在自己的同溫層裡，講得誇張一點就是，我們會看不到另一邊的人。這個問題以前的報社、媒體就有了，但是因為網路強大的優化效率，現在的這種分化影響比以前有效太多，我們可能在決定自己的傾向之後，就再也聽不到反對派的聲音。所以我們常常想，怎麼可能世界上有韓粉，韓粉也可能在想，所有的報導都是在講韓國瑜好話，怎麼可能還有人討厭他？
我個人相信，這真的是一個沒有人意料到的副作用。發明推文推薦系統的人不會想到有一天，「只看自己想看的東西」這種討好使用者的功能，在附加到所有人身上之後，彷彿變成一個恐怖的社會實驗。
我不想無限上綱地回顧有多少衝突可能是因為社群媒體而變嚴重，但就我跟我自己家人的相處經驗來看，完全接受不到另外一派的言論真的是一件非常恐怖的事情，我們每個人都有可能在某些小的意見上，不知不覺往極端靠攏。不代表一定是錯，但是人確實少了很多的思考機會。可能久了，連怎麼聆聽都不知道，因為大家都太極端了。
反省
如果你在科技業，而你相信你是在做能夠讓世界更好的產品，歡迎大家一起來反省一下，你在做的東西到底跟自己的Mission有沒有相符。到底做一個科幾產品的初衷是什麼，你想幫用戶解決什麼問題，以及你有沒有在不知不覺中已經背叛了自己的使用者。一定程度上我覺得這些問題的根本是來自網路世代特別的Business model，但可能也還有別的原因吧。
我覺得軟體的魅力來自於可以快速且即時的將改變送到全世界千千萬萬人的手中，整個網路視為一個平台，就是讓影響力大幅提升的媒介。但是在這個軟體爆炸的時代，還有更多更多所謂「社會性」的問題有待我們去思考，希望我們都可以一起讓世界變得更好吧。
