GPT-4o 新增功能的定位有點令人毛骨悚然，並引發了這樣的問題：這種技術的發展是否會利用人類的脆弱性。
人工智能公司 OpenAI 正在推出最新的 ChatGPT 模型 GPT-4o，該模型具有使用語音功能與用戶進行實時對話的能力。這種語音技術驚人的先進——它通過令人信服地模仿人類的語速、情感語調和慣用語言來回應用戶的講話。這款聊天機器人還能夠實時識別物體和圖像，在演示中，OpenAI 的開發者撐起手機，讓聊天機器人像與朋友視頻聊天一樣評論用戶的周圍環境。
OpenAI 推出 GPT-4o 也引發了熱議和質疑，因為該公司將其定位為一個調情的女性伴侶。OpenAI 的首席執行官 Sam Altman 在揭幕前在 X 上發布了 “HER”這個詞，這顯然是對 2013 年由 Spike Jonze 執導的電影《雲端情人》(Her) 的暗示。在那部電影中，Joaquin Phoenix 飾演的角色是一位正在經歷離婚的孤獨作家，他愛上了一個由 Scarlett Johansson 配音的迷人且超智能的 AI 個人助手。人們不禁注意到 GPT-4o 的聲音有點像 Johannson 的。在演示中，GPT-4o 一直表現得很俏皮、咯咯笑，甚至讚美用戶的外表。在為一個用戶解決代數問題的過程中，它說：「哇，你穿的這套衣服真不錯。」這個評論如此明顯地挑逗，以至於新聞報導將這次互動描述為「調情式的」以及「勾引」。
這一切都有點令人毛骨悚然，並引發了這樣的問題：這種技術的發展是否會利用人類的脆弱性，並加強我們作為一個社會的一些最糟糕的本能。
Altman 正在邀請公眾渴望一個像《雲端情人》中描繪的那樣的世界。但這並不是一個真正的快樂故事。《雲端情人》是一個陰森的故事，展示了先進的 AI 無法治愈孤獨。Phoenix 飾演的角色與他的 AI 進行了語言上的性接觸，但無法建立身體上的聯繫。他相信自己與 Johansson 配音的聲音有著獨特的浪漫關係，但最終發現“她”實際上同時與成千上萬的其他用戶進行對話——並且也愛上了其中的許多人。
在電影的結尾，Johansson 配音的機器人離開了 Phoenix 的角色，與其他能夠以其計算速度運行的 AI 一起前往其他地方，而人類角色則陷入了孤獨，只能尋求與其他人類在現實世界中的滿足感。觀眾可能會對他的這段人類之外的旅程是否是凈收益有不同看法，但電影展示了與 AI 而不是與真實的人建立聯繫的局限性和偏差。
GPT-4o 並不像《雲端情人》中的 AI 角色那樣先進，但不難看出那些不理解其工作原理的人——特別是那些情感脆弱的人——可能會傾向於將其投射為具有感知能力的聊天機器人，並尋求與之建立實質性伴侶關係。（如果不是現在，那麼至少在不遠的將來，考慮到創新的飛速發展。）有些人可能對機器人能為人們提供某種陪伴的想法抱有希望，但作為一個社會，我們在教育人們這些工具的工作原理和它們帶來的權衡方面一直處於落後狀態。