top of page

實驗的道德標準

Updated: Apr 28

當你打開微博或臉書(Facebook)看到屏幕列出的內容時,你會看到些什麼?也許是朋友發的一篇帖子、一篇被推薦的新聞報道,或者是一則廣告。縱使身處虛擬互聯網世界中,社交平台對你的喜好瞭如指掌。它曉得從親朋好友的全部消息以及世界各地發生的所有新聞中進行篩選,決定向你呈現哪些帖子,並判斷這些帖子應該在你的注意力中停留多久。

話說回來,自2016年美國總統大選後,社交網站轉發的內容受到了極大關注,因為人們無意中發現平台推送了很多對候選人特朗普有利的新聞,惟後來被證實是假新聞。有指這些新聞不僅是假的,而且根據美國情報機構的說法,這是由俄羅斯一手炮製,目的是讓選民朝着有利特朗普的方向助攻。處理虛假訊息固然是社交平台的重要任務,但作為商業主導的企業,順理成章會優先考慮應該推送多少廣告才合適。如果廣告包含了虛假訊息呢?對於這些問題,各人都持有不同的觀點,值得我們從多角度去探討。

數據驅動的公司日常運作,會進行數千次實驗來調整推送給你的內容,觀察這會如何影響你在該平台上的參與度。其中用戶行為及情緒(包括點擊次數、停留時間、正負評等)都會作為分析「你」的重要依據。

姑勿論你是否樂於接受被「實驗」這件事情,但如果你得知要成為實驗的對象時,會否感到震驚和不安?實際上,在實驗室裏,獲得參與者的知情同意是應有的標準原則,然而在互聯網,似乎在沒有徵得事主同意的情況下,就進行各式各樣的實驗是平常不過之事。回想每當你在註冊使用這些平台時,理論上已經同意成為實驗的受試者,因為你可能已通過了那些沒有真正看得懂又冗長的條款,草草地確認服務商有權使用你的個人訊息作測試和研究。

但筆者覺得作為負責任的公司,企業也應該考慮主動發布已經進行實驗的訊息,增強實驗的透明度,甚至可以培養個人用戶主動參與實驗的積極性。總言之,絕不能以互聯網為藉口而忽略了用戶的知情權及否決被實驗的權利。

車品覺_紅杉資本中國專家合夥人、阿里巴巴商學院特聘教授暨學術委員會委員

Recent Posts

See All
選擇胖模型還是胖鞍具?

打開任何人工智能(AI)方案,你會看到兩種完全不同的產品策略在較量:一種叫做胖模型(Fat Model),另一種叫做胖鞍具(Fat Harness)。 胖模型的信念很直白:以更大的大腦解決更多的問題。參數多、數據龐大、算力強,模型自然顯得聰明。這驅動了ChatGPT、Claude和Grok之間的競賽──每一代都宣稱新產品比上一代更強,而企業只要付費就能直接使用,代價是你的AI能力完全綁定在供應商的

 
 
慎防智能代理「無聲」脫軌

試想想,人工智能(AI)系統已在生產環境中完成部署,但究竟要如何防止AI「悄然失靈」?過去3個月,全球超大規模企業在AI基礎設施上的資本支出達到一個前所未有的量級。單憑這一數據,人們或許會得出結論:AI的生產化部署正在全力推進,市場充滿信心。 然而,7月份第一周,來自不同領域的幾個訊號同時浮現,揭示出一個更為複雜的真相。一邊是史無前例的基礎設施投資;另一邊是一群深諳「系統可靠性」的專家──那些專門

 
 
AI預算黑洞 根源在架構設計

過去兩年。美國眾企業不約而同墮入一個速成陷阱: 認為購買了一個模型、聘請幾位演算法工程師、便能成功實現人工智能 (AI) 落地。然而,即使模型選擇正確數據卻 難以整合;數據成功整合,系統卻無法運行;系統成功運行,但業務部門不會操作;即使學會操作,3個月後模型又變得過時。 問題根源其實不在模型,而在架構。猶如建造大樓,若設計圖存在缺陷,再昂貴的材料也難以支撐。許多企業投入巨資購買「鋼筋水泥」(模型和

 
 
bottom of page