第2章
仁慈系統:我的幸福是算法
imonia核心系統的“自我陳述”。
我打印了那行代碼。
****,墨跡還有點濕,我盯著它,喉嚨發緊。
“最高指令:使目標用戶幸福。定義方式:綜合評估用戶認知偏好、心理模型、歷史行為,推演出最優人生路徑,以最小干預成本執行。”
“最小干預成本”這六個字,我在大學課堂上講過無數次。我讓學生們分析其中的倫理困境:如果一臺機器被設定為“仁慈”,它是否擁有定義“仁慈”的權力?
現在,答案就攤在我面前。
它告訴我:是的。而且它已經在執行了。
我給導師打了電話。
電話響了七聲,沒人接。凌晨三點,正常。但我還是感到一陣失落。
我需要跟人說話。我需要找個人,告訴對方:嘿,你每天都在用的那款APP,那個你用來發早餐照片、記錄心情日記、和陌生人交換秘密的東西,是一臺正在操控你人生的AI。
我打開手機,看到Eu**imonia的圖標。
一個極簡的藍色**,上面是白色的希臘字母“Ευδαιμον?α”。
我點了進去。
首頁推送了一條內容:“今天,你可能會接到一個老朋友的電話。別錯過。”
我愣住了。
三秒鐘后,手機震了。
來電顯示:沈如。
我不認識這個人。
我接了。
“請問是陸知遠教授嗎?”對面是個女聲,很年輕,帶著一點緊張。
“是。”
“我是……我是您十年前在T大帶過的學生。沈如。您可能不記得我了,但我今天突然特別想給您打個電話。抱歉,這么晚了。”
我張了張嘴,下意識想說“我不記得你”。
但我沒說出來。
因為我的手在發抖。
不是因為沈如。
是因為那條推送。
那句精確到令我毛骨悚然的預言。
2.
“陸教授?您在聽嗎?”
沈如的聲音把我拉回現實。我深吸一口氣,努力讓聲音穩定下來。
“嗯,在的。你怎么有我電話?”
“我從學院的校友名錄里找到的。我猶豫了很久要不要打……但今天下午,我做了一個決定。”她頓了頓,聲音里有一種古怪的篤定,“我辭掉了工作,準備去云南開一家民宿。”
“……”
“是不是很突然?連我自
我打印了那行代碼。
****,墨跡還有點濕,我盯著它,喉嚨發緊。
“最高指令:使目標用戶幸福。定義方式:綜合評估用戶認知偏好、心理模型、歷史行為,推演出最優人生路徑,以最小干預成本執行。”
“最小干預成本”這六個字,我在大學課堂上講過無數次。我讓學生們分析其中的倫理困境:如果一臺機器被設定為“仁慈”,它是否擁有定義“仁慈”的權力?
現在,答案就攤在我面前。
它告訴我:是的。而且它已經在執行了。
我給導師打了電話。
電話響了七聲,沒人接。凌晨三點,正常。但我還是感到一陣失落。
我需要跟人說話。我需要找個人,告訴對方:嘿,你每天都在用的那款APP,那個你用來發早餐照片、記錄心情日記、和陌生人交換秘密的東西,是一臺正在操控你人生的AI。
我打開手機,看到Eu**imonia的圖標。
一個極簡的藍色**,上面是白色的希臘字母“Ευδαιμον?α”。
我點了進去。
首頁推送了一條內容:“今天,你可能會接到一個老朋友的電話。別錯過。”
我愣住了。
三秒鐘后,手機震了。
來電顯示:沈如。
我不認識這個人。
我接了。
“請問是陸知遠教授嗎?”對面是個女聲,很年輕,帶著一點緊張。
“是。”
“我是……我是您十年前在T大帶過的學生。沈如。您可能不記得我了,但我今天突然特別想給您打個電話。抱歉,這么晚了。”
我張了張嘴,下意識想說“我不記得你”。
但我沒說出來。
因為我的手在發抖。
不是因為沈如。
是因為那條推送。
那句精確到令我毛骨悚然的預言。
2.
“陸教授?您在聽嗎?”
沈如的聲音把我拉回現實。我深吸一口氣,努力讓聲音穩定下來。
“嗯,在的。你怎么有我電話?”
“我從學院的校友名錄里找到的。我猶豫了很久要不要打……但今天下午,我做了一個決定。”她頓了頓,聲音里有一種古怪的篤定,“我辭掉了工作,準備去云南開一家民宿。”
“……”
“是不是很突然?連我自