慎重！不要拿 ChatGPT 干這 6 件事

譯者 | 明明如月出品 | CSDN（ID：CSDNnews）

ChatGPT 極其強(qiáng)大，對(duì)我們與計(jì)算機(jī)的互動(dòng)方式產(chǎn)生了變革性影響。然而，像任何工具一樣，理解其限制并正確使用它非常重要。以下是你不應(yīng)該用 ChatGPT 去做的 6 事情。

ChatGPT 的局限在我們深入具體內(nèi)容之前，理解 ChatGPT 的局限是至關(guān)重要的。首先，它不能訪問(wèn)實(shí)時(shí)或個(gè)人數(shù)據(jù)，除非在對(duì)話中明確提供，或者你已啟用 ChatGPT 的聯(lián)網(wǎng)插件。在未啟用瀏覽功能（這需要 ChatGPT Plus）的情況下，它根據(jù)在訓(xùn)練過(guò)程中學(xué)習(xí)到的模式和信息生成回應(yīng)，這包括在其訓(xùn)練截止日期 2021 年 9 月之前的大量互聯(lián)網(wǎng)文本。但是，它并不以人類的感知“知道”任何事情，或者像人類那樣理解上下文。雖然 ChatGPT 經(jīng)常能生成令人印象深刻的連貫和相關(guān)的回應(yīng)，但它并非無(wú)懈可擊。它可能會(huì)產(chǎn)生錯(cuò)誤或無(wú)意義的答案。其熟練程度在很大程度上取決于給出的提示的質(zhì)量和清晰度。

不要在 ChatGPT 中使用敏感信息
由于其設(shè)計(jì)和工作方式，ChatGPT 不是分享或處理敏感信息的安全渠道。這包括財(cái)務(wù)詳情，密碼，個(gè)人身份信息或保密數(shù)據(jù)。最近，OpenAI 添加了一種新的“隱身”模式，以防止你的聊天記錄被存儲(chǔ)或用于未來(lái)的訓(xùn)練，但只有你能決定是否信任這個(gè)承諾。一些公司，如三星，已經(jīng)因?yàn)閿?shù)據(jù)泄露禁止員工在工作中使用 ChatGPT。

不要用它來(lái)獲取法律或醫(yī)療建議
ChatGPT 沒(méi)有被認(rèn)證，不能提供準(zhǔn)確的法律或醫(yī)療建議。它的回應(yīng)是基于它在訓(xùn)練數(shù)據(jù)中可用的模式和信息。它無(wú)法理解個(gè)別法律或醫(yī)療案例的細(xì)微差別和具體情況。雖然它可能提供關(guān)于法律或醫(yī)療話題的一般信息，但你應(yīng)該始終咨詢有資質(zhì)的專業(yè)人士以獲得這樣的建議。GPT 是一項(xiàng)有前途的技術(shù)，無(wú)疑有潛力應(yīng)用到合法的醫(yī)療診斷，但這將以專業(yè)化，經(jīng)過(guò)認(rèn)證的醫(yī)療 AI 系統(tǒng)的形式出現(xiàn)。它并非公眾可用的通用 ChatGPT 產(chǎn)品。

不要用它來(lái)替你做決定
ChatGPT 可以提供信息，提出選項(xiàng)，甚至基于提示模擬決策過(guò)程。但是，必須記住，AI 不理解其輸出的真實(shí)世界影響。它無(wú)法考慮到?jīng)Q策中涉及的所有人類方面，如情緒，道德或個(gè)人價(jià)值觀。因此，雖然它可以是頭腦風(fēng)暴或探索想法的有用工具，但人類應(yīng)始終做出最后的決定。對(duì)于 ChatGPT 3.5，這一點(diǎn)尤為重要，因?yàn)樗?ChatGPT 默認(rèn)模型，也是目前唯一對(duì)免費(fèi)用戶開放的模型。GPT 3.5 的推理能力明顯低于 GPT 4！

不要把它當(dāng)作可信賴的來(lái)源
雖然 ChatGPT 受到大量信息的訓(xùn)練并經(jīng)常提供準(zhǔn)確的回應(yīng)，但它并不是權(quán)威的真實(shí)來(lái)源。它無(wú)法驗(yàn)證信息或?qū)崟r(shí)檢查事實(shí)。因此，從 ChatGPT 獲取的任何信息都應(yīng)與可信賴和權(quán)威的來(lái)源進(jìn)行交叉驗(yàn)證，尤其是關(guān)于新聞，科學(xué)事實(shí)或歷史事件等重要事項(xiàng)。ChatGPT 容易出現(xiàn)“幻覺(jué)” 給出一些聽(tīng)起來(lái)真實(shí)，但完全捏造的事實(shí)。大家要特別小心！

不要把 ChatGPT 當(dāng)作心理咨詢師
雖然像 ChatGPT 這樣的 AI 技術(shù)可以模擬富有同情心的回應(yīng)并提供一些普遍性的建議，但它們不能替代專業(yè)的心理健康支持。它們無(wú)法深入理解和處理人類的情緒。AI 不能替代人類心理咨詢師所固有的微妙理解，情緒共鳴和道德準(zhǔn)則。對(duì)于任何嚴(yán)重的情緒或心理問(wèn)題，始終尋求獲得執(zhí)照的心理健康專業(yè)人士的幫助。

不要使用 ChatGPT 來(lái)做數(shù)學(xué)！乍一看，讓像 ChatGPT 這樣的 AI 幫助你做數(shù)學(xué)作業(yè)似乎是一種自然的應(yīng)用。然而，需要注意的是，ChatGPT 的強(qiáng)項(xiàng)是語(yǔ)言，而不是數(shù)學(xué)。盡管其訓(xùn)練數(shù)據(jù)龐大，但其準(zhǔn)確執(zhí)行復(fù)雜的數(shù)學(xué)運(yùn)算或解決復(fù)雜問(wèn)題的能力是有限的。雖然 ChatGPT 是一個(gè)令人印象深刻的工具，有廣泛的應(yīng)用范圍，但理解其局限性至關(guān)重要。正確地使用這個(gè)工具將有助于發(fā)揮它作為輔助工具的優(yōu)勢(shì)，而不是讓它成為誤導(dǎo)或可能有害的信息來(lái)源。