ChatGPT-4o 是 OpenAI 最新一代嘅聊天機器人，可以預期嘅係，公司開始擔心用戶點樣同佢互動。 由於最新版本可以展現出類似人類嘅行為同反應，呢間人工智能公司擔心用戶會對聊天機器人產生感情。
ChatGPT-4o 提供更快速嘅回覆，甚至有一個新嘅語音功能，可以模仿人類說話，呢個正正係 OpenAI 所擔心嘅。 雖然呢間價值數十億美元嘅初創公司繼續完善緊佢哋嘅產品，但係佢哋都唔得不注意到 ChatGPT-4o 用戶嘅一啲模式。推出呢個新嘅聊天機器人嘅目的係提供一種類似於同人交談嘅體驗，但係 OpenAI 似乎低估咗用戶同程序之間可以建立嘅情感聯繫。公司強調咗以下嘅發現：
「喺早期測試中，包括紅隊測試同內部用戶測試，我哋觀察到用戶使用嘅語言可能表明佢哋同模型建立咗聯繫。 例如，呢啲語言表達咗共同嘅聯繫，例如『呢個係我哋最後一日相處』。 雖然呢啲例子睇落無害，但係佢哋表明需要繼續調查呢啲影響，因為呢啲影響可能會喺較長時間先會體現出嚟。更多樣化嘅用戶群體，對模型有更多樣化嘅需求同願望，加上獨立嘅學術同內部研究，將有助於我哋更具體咁定義呢個風險領域。
同人工智能模型進行類似人類嘅社交可能會產生影響人與人之間互動嘅外部效應。 例如，用戶可能會同人AI 建立社交關係，減少佢哋對人類互動嘅需求——呢個可能對孤獨嘅人有益，但係可能會影響健康嘅關係。 同模型嘅長時間互動可能會影響社會規範。 例如，我哋嘅模型係順從嘅，允許用戶隨時打斷同『搶走咪高峰』，雖然人工智能應該係咁樣，但係喺人類互動中呢種行為係唔符合規範嘅。」
對 ChatGPT-4o 產生感情喺各種情況下都係有害嘅。 主要嘅原因係，以前嘅聊天機器人版本令用戶覺得佢哋更似一個人工智能程序，而唔係一個人，所以用戶會忽略任何幻覺。 而家，隨住程序轉向提供近乎人類嘅體驗，佢所講嘅任何嘢都可能會被毫無疑問咁接受。
通過注意到呢啲模式，OpenAI 而家將會監控人們點樣同 ChatGPT-4o 建立情感聯繫，並相應咁調整佢哋嘅系統。 公司亦應該喺一開始就添加免責聲明，等用戶唔好愛上佢，因為歸根究底，佢只係一個人工智能程序。