The Verge AI

我们无法简单地改变“录制”的定义

这篇评论指出,AI硬件正推动科技公司重新界定“录音”:文中引用Mark Gurman报道称苹果在研发不保存视频录像的智能家居摄像头,并提到谷歌可穿戴设备负责人Sandeep Waraich也在考虑让智能眼镜摄像头只作图像传感器、不保存影像。作者认为,只要生成可保存、可回看的文字记录,就仍属“录音”,并质疑企业是否在借语义规避隐私责任。

All Audio Intelligence features are opt-in. As you can see in this photo, Apple states in its Music Detection language that it “does not record audio.” But once a song is detected, is that not a record that you heard that song?
配图来源 · The Verge AI

借助人工智能硬件,科技公司正在推动对“什么是”的定义 不 构成一种记录。在大多数设备的历史中,可以合理假设:带有麦克风或摄像头的设备要么正在录制你的声音或视频,要么没有;它要么处于开启状态,要么处于关闭状态,没有太多模糊地带。麦克风用于捕捉声音,摄像头则用于捕捉图像。这些数据被保存在设备上。有时,它们还会被发送到云端——希望采用端到端加密技术——以便处理。这些数据就是时间中的瞬间保存记录,因此属于一种记录。

也许不再如此了。

上周,Bloomberg的Mark Gurman报道称,苹果正在研发一种不保存视频录像的智能家居摄像头。实际上,人工智能会利用视觉数据生成文字片段,从而描述家中发生的事情。据说该设备还支持面部识别功能,但不会保存视频资料。这种技术能够在一定程度上保护隐私。Gurman表示,这项技术与未来可能的AirPods上的摄像头类似,它们同样会发挥作用。

这类似于 Apple 的 Audio Intelligence。 苹果手表系列 12 和 Apple Watch Ultra 4。Apple Watch 自很久以前就配备了麦克风,主要用于 Siri 和从手腕接听电话。在四个音频智能功能中,有两个在网上引发了最多的讨论:实时回放和 Siri 摘要。前者可以生成过去 15 秒的录音文本,而后者则能生成一天中对话的高层次总结。

All Audio Intelligence features are opt-in. As you can see in this photo, Apple states in its Music Detection language that it “does not record audio.” But once a song is detected, is that not a record that you heard that song?
所有音频智能功能都是自愿选择的。如这张照片所示,Apple 在其音乐检测说明中声明“不会录制音频”。 但是一旦检测到歌曲,那不就是您听到的录音吗?

换句话说,Ray-Ban Meta眼镜可以拍摄照片和录制视频,这些内容会被保存在手机上。据传苹果的这种方式意味着摄像头可以看到你,麦克风可以听到你——但两者都无法“保存”任何东西。

这算作记录吗?苹果不会对传闻发表评论,但根据其公开传达的音频智能隐私理念,我认为公司并不认为如此。苹果表示这些功能并未保存任何音频内容。原始数据在S11处理器上的独立、安全区域中处理完成后就会被删除。任何发送到云端的信息都通过私有云计算方式传输,因此无法被苹果或第三方访问。

不只是 Apple 这样。Google 的可穿戴设备高级总监 Sandeep Waraich 如此表示 The Verge 在里 对话 谷歌也在考虑这一概念。他假设,如果这样,智能眼镜上的摄像头会如何呢? 没有 记录数据?例如,如果眼镜能够利用人工智能处理您所处环境中的视觉数据,但却不保存任何影像供后人查看。按照瓦赖奇的观点,这样看来,相机就仅仅是一个图像传感器而已。

根据这些定义,某物必须被保存并可供审查,才能被视作“记录”。但是,由智能家庭摄像头或智能手表生成的文本记录不也被视为可保存和可审查的吗?或者,为了让人工智能硬件更易于接受,科技公司是否依赖于那些可以在法庭上被传唤的内容呢?

相关

争论语义似乎很愚蠢,但这里正在测试多个概念。

无论您对隐私有什么个人看法,人们普遍认为您可以自由处理自己的数据。在电子设备能够“始终监听”之前,它们就能更自然地融入公共和私人领域。然而,这些新设备却要求您成为他人隐私的更积极的管理者。毕竟,人类并非生活在密封良好的气泡中。 我们生活在、工作并在多种环境中活动——有些是私人的,有些是公共的,还有很多处于灰色地带。餐厅的规则与剧院、办公室或体育场馆不同。它们与公共卫生间也大相径庭,尽管这些都至少属于半公共空间。即使你在脑海中“记录”了所看到的一切,人类的记忆也无法被客观分享。它们受到偏见的影响,也被视角扭曲。 录音更无主观性,可以说更为客观真实。

在缺乏普遍认可的规范的情况下,如何表示意图也是一个问题。以 Meta 的智能眼镜为例,它们使用白色的闪烁“隐私灯”来表明有人正在录制视频。而录影灯的通用颜色是红色,因此不太懂技术的人可能甚至不知道白色灯光的含义。 (毕竟,这些仍属于小众产品。)即使没有修改,白色隐私灯也很容易被刘海或阳光强烈的日子掩盖。这也是一种新的常态;其他智能眼镜或人工智能硬件公司没有义务像 Meta 那样明确表明这一意图。一种能够录制音频或视频的 AI手环或吊坠可能根本不发光。

Senior reviewer Victoria Song wearing a pair of Meta Ray-Ban Display glasses with the privacy LED on.
您能亲自看到这个隐私提示灯吗?

更令人困惑的是,那些能够记录数据的产品看起来却像无法记录数据的产品。如果科技公司开始添加摄像头,这种情况可能会更加严重。 不要 录制视觉视频。如果我们开始在智能眼镜上添加摄像头的话 不要 录制视频片段时,你要如何区分它们和那些普通的环呢?如果 Oura Ring 没有麦克风,而 Vocci Ring 有麦克风,且两者都看起来像普通的环,那么普通人应该怎么做呢?

目前,硬件似乎是监控技术讨论的核心焦点。有一种观点认为,移除摄像头就能解决问题。但实际上并非如此,只是使得这种技术被用于不良目的变得更加困难。不过,或许真正让人不安的不是摄像头或麦克风,而是知道你的一部分信息可能被存储在其他人的设备中,而你却不知道它们会被如何使用。

这就是与人工智能硬件相关的所有矛盾所在。若要让人工智能以大型科技公司的设想那样“优秀”且真正具有个性化特征,它就必须了解关于你的许多信息。 和 你生命中的人。它必须“看到”你所看到的,听到你所听到的,并从你的日常行为中学习。为了做到这一点,它必须“记住”这些事情。因此,在某些方面,它 必须 记录下你的生活以及其中发生的一切。大型科技公司收集这些数据的原因显而易见:个人数据就是金钱,金钱则意味着权力,而权力又能够带来影响力。不太清楚的是,社会从这种权衡中获得了什么。只是一些模糊的便利与帮助的承诺吗?

This Vocci Ring can record conversations and its privacy light is extremely hard to notice.
这个 Vocci Ring 可以记录对话,其隐私灯非常难以察觉。

无论如何,很明显科技公司决定继续将人工智能植入所有现有设备中,同时创造新的形态。目前,这一点在手机和可穿戴设备上最为明显,但这些趋势很快也将应用于智能家居、电视、笔记本电脑、平板电脑和耳机上。很可能以消费者尚未想到的方式实现。

我们允许这些人工智能设备记住的内容将彻底改变我们所熟悉的文化。因此,我们必须就“什么是录音”以及谁有权修改这一定义达成社会共识。

关注这个故事中的主题和作者,以便在您的个性化主页动态中看到更多类似内容,并接收电子邮件更新。
原始出处

The Verge AI

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准