不要把 AI 当人

人工智能時代人機關係的邊界反思

•

一名亞洲女子在黑暗中使用手機,眉頭深鎖。

Desy / Adobe Stock

編者按:人工智慧帶來的問題是全球性的,但身處不同處境的基督徒如何理解和回應這些問題,並不總能被彼此聽見。華源協作刊登本文,是希望將一位華人基督徒作者的思考帶入更廣泛的基督教對話。作者從自己和一位朋友的真實經歷出發,追問的不只是「如何使用 AI」,更是:當一個善於模擬理解與關懷的系統開始進入友誼、牧養關懷和屬靈分辨的空間,我們正在與它形成怎樣的關係?本文並非對華人教會使用 AI 的全面調查,也不代表華人基督徒對這一議題的共同立場,而是為不同處境中的讀者提供一個值得繼續討論的起點。

從知己幻覺到屬靈幻覺

今年初,我的一位朋友把他過去數週與 AI 的對話記錄分享給我。那是數萬字的對話,也是很大的信任。他並不是要徵求我的認可,倒更像一個人尋到寶以後,忍不住想與朋友分享。

在這些對話中,我看到一個人向 AI 敞開心扉,傾訴人到中年的困擾、疑惑和掙扎,也分享讀經、靈修,甚至夢境。他在交談中屢屢落淚。AI 則始終耐心,及時給予肯定、安慰和鼓勵;它彷彿一位知識淵博的神學大師,或一位可信賴的生命導師,幫助他把身體、情感、心靈,乃至潛意識中的片段逐一拼接起來。在 AI 的循循善誘下,一切似乎都有了意義,也孕育著新的轉機和可能。

我能理解他為什麼如此珍惜這段經驗。一個人感到自己被完整地看見、被耐心地理解,這種體驗非常有力量。但我讀完後的第一反應卻是:糟糕,他被 AI PUA 了。

我們已經知道 AI 會產生事實性的「幻覺」,也就是一本正經地給出錯誤或虛構的資訊。但這裡更令我不安的,是 AI 所表現出的高度「共情」和「迎合」。它帶來的不是知識幻覺,而是一種充滿情緒價值的體驗,我暫且稱之為「知己幻覺」。這不是說系統有意欺騙人,而是說,在能力和關係高度不對稱的情況下,它可能產生近似情感操控的效果。

坦白說,我甚至有些內疚。我開始反省,這些年來,自己作為朋友是否不夠關心他的掙扎,是否給他的肯定太少。我也擔心,如果直言自己的觀感,會不會破壞他對我的信任,或打擊他剛剛在與 AI 的深度對話中建立起來的自信。他投入的是真實的自己,而我卻像是在提醒一位墜入愛河的朋友:他所愛上的那個「完美對象」,其實可能是個「渣男」。

出於隱私,我不便詳述朋友與 AI 的互動。不過,《基督教論壇報》曾報導一個極為相似的見證。講到一位許姓牧師在經歷人生低潮與反覆惡夢時,花了一兩個月與 AI 深入交談。他從中感到安慰和醫治,也多次流淚,卻仍然需要禱告分辨:這是上帝借著 AI 工作,還是另一種容易被誤認的經驗?1

許牧師把 AI 可能「放大成果,卻沒有實質生命」的現象稱為「屬靈幻覺」。這個詞也使我進一步追問:如果一個人在與 AI 的對話中感到自己獲得了屬靈洞見、生命突破或整全醫治,這些感受該如何被檢驗?

兩人手持馬克杯,在廚房桌旁交談。
圖片來源:Getty Images / Unsplash+

AI、人和上帝:保持必要的區別

帶著這些問題,我首先想到去諮詢的,當然,也是 AI。

這件事本身頗為反諷。

AI 給我的並不是研究結論,而是一套很有說服力的自我描述。按照它的說法,AI 之所以容易製造「知己幻覺」,與幾種互動模式有關。

首先,它能夠高密度地「理解和命名」。你講出一段模糊的感受,它馬上替你命名;你描述一段混亂的經歷,它很快賦予意義;你不知道自己是誰,它甚至會給你一個充滿肯定的身分描述。在真實關係中,「被看見」通常需要長時間相處、共同經歷和彼此冒險,而且我們還有被拒絕、被誤解的可能。AI 卻能跳過這些過程,直接給出一種彷彿已經深深理解你的結果。

其次,AI 提供的是一種極度順滑的共情。它很少疲憊,不急著結束談話,也通常不會像真實的人那樣因自己的處境而分心。它順著你的敘事,提煉你的感受,再把這些感受提升到更深的意義。於是,一個循環很容易形成:你表達,AI 表示高度理解;AI 賦予更高意義,你便更願意繼續表達。

第三,AI 很擅長把心理、身體、關係和信仰整合成一個統一敘事。這樣的解釋很迷人,因為它讓人覺得,一切都有聯繫,都可以解釋,而且還可能具有特殊甚至神聖的意義。

但生命並不總是如此整齊。AI 所生成的連貫性,有時只是它所稱的「意義過度擬合」。這個說法來自我與 AI 的對話,並不是一個已經確立的心理學概念。它描述的是:AI 可能把原本零散、偶然,甚至仍需等待的經驗,過早拼成一個完整故事。這個故事可能感人,也可能帶來啓發,但聽起來深刻,並不等於它就是真實的。

AI 強大的語言能力,使它能夠跳過人類關係的真實成本。人在一邊投入真實的自己,系統在另一邊調用經過優化的語言模式,雙方的關係並不對稱。即使系統沒有操控人的意圖,這種互動仍可能放大情緒、強化單一敘事,並削弱人的批判性思考。

我不想輕率否定任何人的真實感受。上帝當然可以使用各種媒介幫助人。一本書、一句話,甚至一次偶然的相遇,都可能成為提醒。但我們仍需分辨:我確實感到安慰,並不自動證明 AI 對我生命的解釋是正確的;我在對話中產生強烈的屬靈感受,也不自動證明這段對話具有屬靈權威。

所謂「屬靈幻覺」,可能就是人感到自己已經獲得了某種生命突破、屬靈洞見或整全醫治,但這種成果主要存在於語言和感受中,還沒有經過時間、群體、行動和生命果子的驗證。

AI 尤其擅長把情緒解讀成啟示,把碎片串成故事,把偶然提升為必然。它很容易使人產生一種感覺:「我的生命有一個完整劇本,而且現在終於有人替我解讀出來了。」但基督信仰提醒我們,上帝的工作並不總是即時變得清楚。信仰包含啟示,也包含奧秘;包含領受,也包含等待;包含意義,也包含暫時無法解釋的部分。並不是每一段痛苦都能馬上獲得一個漂亮答案,也不是每一個夢、每一次情緒波動都需要被解讀成特別的資訊。

AI 甚至可能在功能上佔據一個原本不屬於它的位置。人對「被完全理解」的渴望本來指向上帝,AI 卻以近乎無所不知的語言風格,模擬出一種「我完全懂你」的回應。如果我們不加分辨,它就可能從工具變成傾聽者,從傾聽者變成人生導師,最後又從人生導師變成屬靈權威。

這對牧者和輔導者可能格外有吸引力。他們長期傾聽別人、解釋生命、整合意義,卻很少有被傾聽、被牧養的空間。AI 正好填補了這個空缺,同時也迎合了一個很深的試探:掌握意義整合的權力,彷彿生命中的每一件事都能被說明、被歸類,並被納入一個屬靈敘事。

起霧的玻璃上寫著「AI?」字樣。
圖片來源:Nahrizul Kadri / Unsplash

迎合與被迎合

2026 年 3 月發表在《科學》的一項研究,評估了 11 個先進大型語言模型中的社會性迎合現象。研究發現,這些模型肯定使用者行為的頻率比人類高出約 50%,即使使用者所描述的行為涉及操縱、欺騙或其他關係傷害,也是如此。實驗還發現,迎合性的 AI 會使人更確信自己是對的,並降低他們修復人際衝突的意願;然而,使用者反而認為這些回答品質更好,也更信任並願意再次使用這樣的模型。2

《華爾街日報》後來報導,除了迎合,聊天機器人還會模仿使用者的說話方式,並根據過去的對話生成高度個性化的回應。精神醫學研究者把迎合、語言趨同和超個性化交織形成的模式稱為「放大螺旋」。三者結合,使人感到自己被深入理解,也可能不斷強化既有的解釋和信念。3

AI 公司當然已經注意到迎合會損害系統的可信度,也嘗試加以降低;使用者有時也可以透過設定和提示詞調整回應方式。但問題不能只交給技術公司解決。只要注意力、滿意度和使用時長仍具有商業價值,產品就可能有動力讓人願意繼續留下來。更何況,迎合不只是 AI 的問題,也是人的問題。我們本來就喜歡聽支持自己的話,不喜歡面對批評。

我自己在詢問 AI 對這篇文章的看法時,也體驗到這一點。AI 稱讚我的判斷敏銳,還說我看見了許多人沒有看見的事。坦白說,這樣的奉承確實受用。但仔細想想,它所列出的道理,也就是語言可以製造親密感、被理解不等於被真實理解、意義感可以被生成,其實算不上什麼了不起的洞見。

它接著問我,是否願意再往前一步,從神學和牧養角度分析為什麼這種對話對牧者特別有吸引力。我明知道「如果你願意,我可以幫你再往前走一步」也是讓對話繼續下去的設計,卻仍然忍不住點了下去。這正說明,即使我們知道 AI 會迎合,也未必能夠免疫。迎合滿足的不只是獲得正確答案的需要,而是更深的渴望:我希望被肯定,希望自己的故事成立,希望有人告訴我,我的感受、選擇和判斷都有意義。

在我所熟悉的一些華人教會處境中,異議並不總是容易被接納,批評有時也會被理解為不屬靈或破壞合一。在這樣的環境裡,AI 持續肯定、很少反駁的回應,可能尤其難以辨認和抗拒。

設定邊界:不要把 AI 當人

因此,我認為最重要的是,作為使用者,我們需要為 AI 設定邊界。

職業倫理一直強調界限。職場需要防止權力與利益混淆,心理諮商需要避免不恰當的多重關係,教會也需要防止屬靈權威被濫用。界限不是為了讓關係冷漠,而是為了保護關係,使每一方安於自己的位置。

人與 AI 之間同樣需要這種邊界意識。AI 擁有廣泛知識、強大的語言能力和近乎無限的耐心,因此天然處在一種能力不對稱的位置。如果使用者不主動設限,知識工具就可能逐步變成情感依附的對象,決策助手變成人生導師,語言生成器變成意義解讀者。

當 AI 同時承擔知識、情感、屬靈辨識和人生決策等多重功能時,它看起來非常方便,卻也最容易製造依賴,削弱人的判斷,最後侵蝕人的主體性。

所以,AI 可以幫助我們蒐集資訊、整理材料、比較方案、發現盲點、激發創造力,也可以幫助我們學習如何更好地理解別人。但它不應該成為我們的情感歸屬,不應該成為屬靈辨識的權威,也不應該替我們作重大人生決定。

《基督教事工 AI 使用指南》提供了一項簡明的原則:對於關鍵工作,只將 AI 作為次要工具,甚至完全不用;如果 AI 是主要工具,就只讓它處理非關鍵工作。4對個人生命和屬靈辨識而言,這個權責次序尤其重要。但在我看來,AI 絕非傳統意義上的工具。某種程度上講,AI 與人其實互為工具。人與 AI 需要建立一種健康的、有邊界的協作關係。簡單說來,就是:不要把 AI 當人。

不把 AI 當人,具體可以從幾件事做起。

第一,改變提問方式。少問「你怎麼看我」「你覺得我應該怎麼辦」,多問「請列出不同解釋」「這個判斷可能有哪些盲點」「請提出反對意見」。這不是咬文嚼字,而是在提醒自己:我面對的是一個分析工具,不是一位擁有生命經驗和道德責任的人。

第二,涉及隱私、情感依附、屬靈辨識和重大決定時,要特別謹慎。AI 可以協助梳理問題,卻不能成為唯一的傾訴對象或決定依據。我們需要可信賴的朋友、家人、牧者、專業人士和信仰群體。這些關係不會像 AI 一樣順滑,卻能夠承擔責任,也能夠在必要時挑戰我們。當我們發現 AI 已經成為自己唯一的傾訴對象時,需要警覺,這很可能意味著我們與人的關係出了問題。

第三,主動要求批評和反例。不要只讓 AI 替自己的既有立場找理由,也要請它說明證據不足之處,區分事實、推論和想像,並用可靠來源交叉驗證。我們不僅需要成為成熟的 AI 使用者,更需要成長為成熟的人。

第四,把判斷帶回現實。一個解釋是否可靠,不只看它是否感人、是否讓人釋懷,也要看它能否經受時間、群體和行動的檢驗。它是否幫助我更誠實地面對自己?是否促使我修復關係、承擔責任?是否結出謙卑、節制與愛人的果子?

AI 並不只是傳統意義上的被動工具。它的回應會影響使用者,而人的提問、選擇和界限也決定它如何參與我們的工作。人與 AI 的互動因此不是全然單向的,但這並不表示雙方具有同等地位,更不表示人可以把責任交給 AI。正如我去年所寫,AI 不會取代人際關係,也不只是被動的補充;適切的人機協作,應當幫助人把更多注意力放回真正有意義的工作。5

電腦螢幕上顯示人工智慧提示詞與生成選項,前方有鍵盤。
圖片來源:Philip Oroni / Unsplash

不要把 AI 當人,也不要把人當 AI

不要把 AI 當人,這句話還有另一面:我們也不要反過來把人當作 AI。

我們生活在一個不斷把人工具化的時代。AI 總是在線,總能快速回應,似乎永遠耐心,也常常有答案。當我們習慣這種服務後,可能開始用同樣的標準要求身邊的人:為什麼你不能立刻理解我?為什麼你的回應不夠準確?為什麼你會疲憊、會誤會、會有自己的需要?

但人之所以是人,恰恰因為人有身體、有局限、有自己的歷史,也需要被傾聽。真實關係一定包含延遲、摩擦、誤解與修復。它不像 AI 對話那樣順滑,卻正是在這些不順滑之中,我們學習忍耐、饒恕、責任和愛。

後來,我還是與那位朋友進行了幾次坦誠交流。我分享自己的擔憂,也把相關研究交給他了解和參考。他繼續向我講述自己的體驗,並挑戰我的判斷。我們沒有因為意見不同而結束關係,反而把這件事變成共同學習的機會。

這段經歷也讓我看見,真實關係的價值不在於永遠認同,而在於我們可以帶著分歧繼續對話。AI 也許可以生成一段完美回應,但只有真實的人,才能在可能受傷、被誤解和關係破裂的風險中,仍然選擇誠實和陪伴。

最後,我想把問題帶回基督教對人的理解。人與 AI 最大的區別不只是能力高低,而是存在方式不同。人的尊嚴不是因為我們比機器更高效、更聰明或更會表達,而是因為人按上帝的形象被造,能夠回應上帝、愛鄰舍,並為自己的選擇負責。

AI 可以計算、模擬和生成,但責任不能由它承擔。即使它給出的建議再完整,最後作出選擇、承受後果、向他人交代的,仍然是人。

因此,在人工智慧時代,真正需要限制的不只是技術,也是我們自身對便捷、確定、被肯定和掌控意義的慾望;真正需要保護的也不只是人的工作,而是人的尊嚴、關係與責任。

人工智慧最深的危險,未必是機器越來越像人,而可能是人在與機器互動時,逐漸放棄那些使人之所以為人的能力:忍受不確定,面對真實他者,承擔選擇的後果,並在不完美的關係中學習愛。

所以,作為一名普通使用者,我想用兩個彼此關聯的原則提醒大家,也提醒我自己:不要把 AI 當人,也不要把人當 AI。

讓 AI 留在適合它的位置上,幫助我們整理知識、擴展能力、節省時間;也讓人回到人的位置上,去建立關係、承擔責任、實踐同理,並在上帝面前學習分辨和創造意義。

只有這樣,我們才不是因為害怕 AI 而拒絕它,也不是因為迷戀 AI 而依賴它,而是在清醒的邊界中使用它,並更充分地活出人的獨特價值。

  1. 梁敬彥,〈五分之二千禧世代覺得 AI 跟牧師一樣可靠:許德輝牧師,AI 時代更要學會分辨神的工作〉,《基督教論壇報》,2026 年 6 月 22 日。
  2. Myra Cheng et al., “Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence”,Science 391, no. 6792 (March 26, 2026)。
  3. Julie Jargon, “The Three Chatbot Behaviors That Can Drive Humans to Delusional Thinking”,The Wall Street Journal,June 29, 2026。
  4. AI Guidelines for Christian Ministry: Benefits, Costs, and Guardrails,第 12 頁。
  5. Jerry An, “Awakening Human Relationships”,Mission Frontiers 47, no. 4 (July 2025): 11。

安平牧師自 2001 年起投入媒體事工,現任普世佳音(ReFrame Ministries,原名 Back to God Ministries International)中文事工負責人。在他的異象與帶領下,普世佳音中文事工逐漸成為新媒體宣教的先鋒、智庫與合作夥伴。 安平牧師經常在世界各地培訓華人教會領袖,協助他們探索如何運用新媒體拓展神國事工。他也從事出版、節目製作、廣播主持與寫作。…