跳到正文
The Verge · AI· Victoria Song·· 4 小时前AI 评分58

The Verge 评测员三周实测 Amazon Bee Frontier:AI 记录与我的记忆不断冲突,治疗师建议直接扔掉

My therapist thinks I should chuck the Amazon Bee Frontier out a window

AI 导读

The Verge 专栏作者 Victoria Song 连续三周佩戴 Amazon Bee Frontier,一款持续录音并靠 AI 转写、总结对话的穿戴设备,结论是日常使用让她不断质疑自己的记忆。

正文 · AI 翻译

这是 Optimizer,由 Verge 资深评测编辑 Victoria Song 每周发送的一份时事通讯,剖析并讨论那些声称要改变你生活的最新小玩意和灵丹妙药。点击这里订阅 Optimizer。

“这让你感觉如何?”

治疗师经常这样问我。大大小小的许多生活事件都曾触发过这个问题。三周前,是因为我在治疗时戴着 Amazon Bee Frontier,不得不请求治疗师的同意。

第一周,我其实没有答案。自去年年初我首次测试 Bee——一款持续录音的 AI 穿戴设备——以来,很多东西都变了。它的简短卖点是:它聆听你的所有对话,并使用 AI 进行转录和总结。在此基础上,它有一个 List 功能用于建议待办事项,一个 Grow 功能用于找出你可以改进的方面,还有各种摘要来分析对话的内容、语气和要点。它甚至还有一个聊天机器人,可以回答关于你自己的问题,或回答说了什么、何时说的。

在过去 19 个月里,它已经更擅长把我的真实话语与电视对白区分开。它现在可以读取我的日历和相册信息,并根据我说过的话建议在 Amazon 上购买的东西。有时候,尤其是工作相关任务,它帮我记住了谈话要点。但大多数时候,它让我开始质疑自己的现实。

我的治疗师通常让我自己得出结论,即使我常常绕一大圈才到达显而易见的答案。11 年来,她非常了解我这份工作中比较古怪的部分。但在我第三次谈起 Bee 时,我的治疗师要求我把这东西直接扔出窗外。

It’s easy to forget this thing is recording when you’re just going about your day.

当你只是照常过日子时,很容易忘记这个东西正在录音。

有点黑暗,但我接受心理治疗的一个重要原因是建立对自己记忆的信任。我从小是跟着一个可能当过间谍的父亲和一家人人讲述的事件版本都截然不同的移民家庭长大的。成长过程中,我感到无所依托。事情真如我记得的那样吗?不可靠的叙述者是我的父母,还是我?他们后来相继患上痴呆症,更让我难以分辨真相与虚构。

在那些时刻,我曾希望有一个像 Bee 这样的设备。可以说,是一份可查阅的记录,在我想要 sanity check(核实 sanity)的时刻派上用场。回想起来很好笑。如今科技公司开始把这个幻想变成现实,我的感受却是永远被煤气灯操纵。

例如,看到 Bee 对我对话的转录和摘要会让人感到迷惑,往往是因为 AI 对这些内容的记忆和解读与我不一样。和所有 AI 一样,它并不总能准确分辨谁说了什么。在过去三周里,它得出结论:我经常和一位同事的配偶争吵(我从未见过此人)、我认为某位家人患有未经诊断的双相情感障碍(从来没有人这么说过!),以及我喜欢在重要的视频通话时穿上好裤子。(那是个玩笑。)当然,令人欣慰的是,Bee 新近升级的转录能力能够辨别出,我并不是仅仅因为看了《真探》(True Detective),就亲自和侦探 Rust Cohle 与 Marty Hart 合作追查一个名叫“黄衣之王”的连环杀手。但它仍然搞不定我们给我两只猫 Petey 和 Pablo 起的各种昵称这件事。据 Bee 估算,我还有大约六只额外的猫,名叫 Mr. Handsome、Mr. Stylish、District Attorney Hoss、Dabah Doo Bah、Potato Demon 和 Tubby McTubberson Jones。

<em>This was a joke.</em>

I identify as bisexual, actually.

True but why would I need this recapped?

<em>What I recall saying was something like “Let’s watch True Detective before Brothers because it’s easier to go from depressing to funny.”</em>

<em>The first part is true. I don’t know where it got the second part about New Jersey Governor Mikie Sherill.</em>

1/5

这是个玩笑。

这些错误至少还挺搞笑。而当对话内容严肃时,我才感到最强烈的错乱。正是在这种时候,“改进”后的 AI 会搅动我脑海中的某些东西。

在我第二次带着 Bee 录音进行心理治疗时,我把大部分时间都用在了梳理自己对《你能看见一切》(You Can See Everything)的感受上。这是一部颠覆现实的电影,质问真实与虚构之间的界限。尽管我很喜欢这部电影,但连续三个小时目睹强迫性说谎者,难免会把我带回生活中那些不太愉快的时刻。我本该在这次治疗时关掉 Bee。但事实是,我只是忘了。因为这些设备的设计,在很多方面就是让你忘记它们正在监听。

Bee 的一项功能是学习关于你的“事实”,然后你可以向右滑动将其确认为真,或向左滑动将其驳斥为假。在这次治疗后,它生成了一条关于我童年时经历的一次家庭暴力的“事实”。这个特定时刻多年来在治疗中被提起过多次——重新审视它是理解和原谅我父母的关键,也是对塑造他们的环境怀有同情的关键。

我没想到,看到一段创伤性事件被如此直白地用简明英语概括出来,感觉会如此糟糕。我讨厌不得不向右滑动说“是的,这是真的”。我没想到随附的摘要标题会是“从操纵性权力中夺回现实”。也没想到它会概括我是什么样的人(深感不安)、谈话的基调(激烈、反思性强、情感赤裸),以及我在那次治疗中的感受(悲伤、愤怒、对操纵看得透彻)。我记得那次治疗是宣泄性的。我有时的确大笑或开玩笑。话题确实严肃,但我并没有咆哮、发狂或哭泣。我离开那次治疗时感觉轻松——你从摘要里完全看不出来。几周后再看这份摘要,我现在开始怀疑到底谁是对的:是我,还是 AI。

Side view of the Amazon Bee Frontier sitting on top of a colorful phone.

这台设备有时候极其怪异。

我在年度体检时也忘了关掉 Bee。我迟到了,当我换上检查服时,那玩意儿就堆在我的衣服堆里。直到要离开时我才意识到自己的失误。

一方面,它确实记录下了我的医生为我开了治疗过敏的 Claritin,以及护士和我聊起了我去世的狗 Daisy。(它在这一点上也把我描述为惆怅而悲伤,但我记得那是一种温柔的怀念。)讽刺的是,它还记录下了我的医生对 AI 转录的感受。我的医生的 AI 转录软件需要患者同意,帮助她应对那些需要记住治疗要点的冗长对话。但它在区分两位女性说话者方面也很糟糕,她花了相当多的时间来纠正它。

根据我使用的 Bee AI 模板不同,摘要也会变化。使用默认模板时,AI 对这次会面的结论包括语气分析和要点总结。如果我切换到医疗就诊模板,突然一切都变得客观得多。它剥离了那些思绪杂谈。回顾起来更有用,也更不让人不适。但我不禁觉得,这次相当重要的医疗就诊记录与我的记忆不符。谁是对的?

那么,这一切究竟让我感觉如何?

有点抓狂和不知所措。有时还感到被冒犯。Bee 有一个较新的功能叫 Grow。它会根据你的对话历史,整理出关于你如何实现个人成长的建议,还会生成待办事项建议。

为了用我的声音训练 Bee AI,设置过程中它让我描述自己的爱好。我说我喜欢阅读、书法、十字绣和跑步。我最近开始玩钢笔和为手账做墨水试色。你必须连续说大约两分钟,所以我最后东拉西扯地讲到了我不确定刺绣此时此刻会是十字绣的自然进阶,还是一条不必要的支线任务。

基于这段极其不严肃、单方面的闲聊——而且是 Bee 自己引导的对话——Grow 给出的洞见是什么?我涉猎的爱好太多,却没有认真投入。样样通,样样松。我没有展现出任何进展或“可分享产出”的切实迹象,应该在接下来的三个月里专注一个爱好。因为我允许 Bee 接入了我的提醒列表,其中有一个旧的待读书单,列的是我想要实体书的书目,它便言之凿凿地宣称,尽管我自称是读者,但我今年没取得多少进展。

I don’t recall asking for judgement about my “serial pattern of experimentation.”

我不记得我请求谁来评判我的“连续实验模式”。

老娘心想,2026 年至今我已经读完了 39 本书。我练习书法和写手账已经17 年了。我今年完成了 10 个十字绣作品。最重要的是,爱好不是我做来获取“可分享产出”的东西。我碰巧坚信,爱好应当豁免于硅谷脑袋里那些荒谬的 KPI。

另一条来自我和配偶关于中期选举的政治讨论的 Grow 洞见?“这些框架帮助她理解时事,但也可能让她与当下的参与脱节;她在政治讨论中的语气更像分析者而非行动者,更像诊断者而非被动员者。”接着它建议我“找出一项符合你价值观、耗时不超过 30 分钟的具体政治行动,并在本周内完成。”

在我的记忆里,这是因为我们看了一集The Daily Show,我开玩笑说自己已经厌倦了美国政坛的把戏。更别提我真实的亲身经历——做竞选宣传员以及担任工会组织者和代表。

这只是两个例子。想象一下,连续将近一个月,每天看到某种这样的东西。摘要大概 75% 正确,15% 断章取义,10% 荒唐出错。而这些东西不管 AI 可能出错的免责声明写得多么清楚,都以事实的面目直接呈现给你。

你内心深处知道真相,却仍然会担心,当自己的高度警觉松懈时会发生什么。

我在戴着 Bee 的第三次心理治疗中说出了这些。我请我的治疗师发表看法。我开玩笑地问她,看着我经历这场实验,她是什么感受?

我翻看了那段对话的 Bee 转录。讽刺的是,它并没有总结她对这款设备对焦虑人群设计得有多糟糕的看法。我不得不深入原始转录才找到那段内容。据我的治疗师说,这样的设备很可能超越了一个人对自己需要做什么的直觉判断能力。当你把这一点外包出去时,AI 生成的洞见可能缺乏情感上的契合,进而加剧一个人本来想要解决的许多问题。对我来说,它很可能触发反刍思维、情绪螺旋和完美主义。

正是在那一刻我们开玩笑说,我大概应该把这东西扔出窗外。我们笑着说到我下次治疗时不再戴着它,我们两人都会感到如释重负。我想说那是最重要的一点收获。

Bee 没有把这一点列入它给我建议的待办清单。不过它确实说了这个:买指甲胶,还附带了指向 Amazon 的链接。

关注本报道的话题和作者,在你的个性化主页信息流中查看更多类似内容,并接收邮件更新。

  • Victoria Song

来源: The Verge · AI · theverge.com