微软亚马逊IBM主动禁售人脸识别po在脸书的照片已被有心人存档

2020-09-05 10:47:14 网络推手刚总

本年1月,Netflix上架了一部巴西电视剧《全知》,影片为咱们创造了这样一个极为文明安全的乌托邦社会——“5年,只要4起凶杀案上报。城里的刑侦组织早在15年前就已解散,30万刑侦差人,现在只剩300人,(他们受过仅有的训练)便是把人铐起来。”
图片来历:《全知》
当然,这是有价值的,生活在这里的人有必要接受无人机监控,无论你是在吃饭、睡觉、上厕所......没有停歇。乃至你要为自己无知时犯的错误,付出一辈子的价值。
图片来历:《全知》图为女主的哥哥
咱们离影片中的乌托邦社会还有多远?
疫情期间,以色列政府批准国内安全组织能够通过手机跟踪新冠病毒患者在确诊前14天以内的行迹,通过手机实时跟踪确诊患者有无违背隔离规则,并通过人脸辨认大数据寻找他们去过哪里,与谁有过接触。
本年3月,一名俄罗斯男人从韩国飞回莫斯科,落地之后需要在家隔离两周。呆了几天后,他感觉自己没什么症状,就走出家门扔了一趟废物。结果半小时后,差人出现在了他家门口。原因是自家公寓门口安装了人脸辨认摄像头,摄像头辨认到了这位从韩国归来的男人,所以把信息陈述给了差人。
近来,路透社公布了一项针对美国第三大连锁药店Rite Aid的调查。据悉,Rite Aid在其全美200家商铺中隐秘布置人脸辨认体系长达8年之久,且大部分布置于有色人种寓居的低收入社区,这个隐秘体系直到最近才被中止运用。
一、你po在脸书的相片,已被有心人存档
也是本年,《纽约时报》记者Kashmir Hill报导了一家奥秘的AI技能公司Clearview AI。2017年成立,截止全年,全美已有超过600家法律组织(比方差人局)运用其服务。
第一个付费客户是印第安纳州差人局,第一次运用时,只花了20分钟就破了一起案件。差人将案件嫌疑人的相片上传至Clearview的体系中,马上得到了匹配,该男人的姓名出现在一条po在交际媒体上的视频中。假如没有Clearview,差人能否这么快破案尚未可知。由于该男人既没有驾照也没有前科,差人局无法从现有数据库中找到他。
图片来历:Clearview 图为Clearview提交给法律组织的宣传材料
Clearview的技能之所以神奇,主要在于其具有一个巨大的图片数据库,洛杉矶差人局800万、佛罗里达差人局4700万、FBI 4.11亿张图片的数据库,在Clearview面前不值一提。
依托从领英、脸书、推特、YouTube、Instagram乃至Venmo等交际平台上的公开账户中爬取相片、视频等数据,Clearview建立了一个具有30亿张图片的数据库。
不过,假设你的Facebook账户开启了隐私模式,那Clearview就无法抓取你的信息了。假如你还没有,现在开启也晚了,由于一旦信息被Clearview抓取,便是永久存储,哪怕你删掉,它那里还帮你备着份呢。
现在Clearview的匹配准确率高达75%,哪怕你带着帽子或许眼镜,一样能匹配,反馈回与你相关的一切相片、视频,乃至连你自己都不知道存在的内容。
更可怕的是,Clearview不只会存储差人提交的信息,还能够修正所回来的数据。
现在Clearview正在隐秘研发配置了该技能的AR眼镜,也许咱们很快就能“看透”周围一切的人了。
细思极恐,假如落到有心人手中,这样的技能,会造成什么样的恶果?
就在8月上旬,缅因州波特兰市投票通过了制止法律人员运用人脸辨认监控程序的法则。
图片来历:Twitter
算上波特兰市,这已经是美国第9个宣告制止运用人脸辨认技能的城市了。最早从2019年5月开端,旧金山成为全球首个宣告禁用人脸辨认技能的城市。随后湾区城市奥克兰以及加州伯克利,也全票通过了政府人脸辨认禁用法案。
东海岸深蓝州马萨诸塞州紧跟湾区步伐,萨默维尔加上布鲁克莱恩、剑桥和北安普顿4个城市也相继加入到禁用队伍之中。
到本年6月,波士顿对外宣告禁用人脸辨认技能。在禁用人脸辨认的城市里,波士顿城市规模排第二,仅次于旧金山。
图片来历:Boston.com
不只是地方政府,科技公司也开端后退,自动禁售相关技能。本年年中,三大巨子科技公司相继发声:
IBM宣告将不再供给、开发或研究任何人脸辨认和人脸剖析软件——这是美国科技巨子第一次旗帜鲜明地抛弃人脸辨认业务。
亚马逊宣告将会暂停向美国警方供给人脸辨认服务,时刻长达一年。
微软表示,在有监管面部辨认技能的联邦法律出台之前,不会向差人部分出售这种技能。
图片来历:Washington Post
早在2011年,谷歌前CEO Eric Schmidt就曾公开表示:“人脸辨认是谷歌仅有研发了,但决议暂停的技能。”
二、有钱不赚,科技公司是不是傻?
旧金山算得上是全球对科技包容性最高以,且科技最为发达的城市之一了。在2019年5月宣告全面制止差人和其他政府组织运用人脸辨认技能的时候,作为第一个制止政府运用人脸辨认技能的城市,引起了不小轰动。
当时颁布的法令中决议制止全市包含旧金山差人局在内的53个部分运用人脸辨认技能,该警局曾经在2013年~2017年进行了人脸辨认相关技能测验。
但旧金山国际机场和旧金山港中由联邦政府控制的设施不再约束范围内,一起未制止一般商家或居民运用人脸辨认或监控技能(如监控摄像机)。此外,该法令也没有约束差人在刑事案件中运用个人的Google Nest camera监控视频。
说到人脸辨认技能被抵抗的原因,旧金山监督委员会官员Aaron Peskin向CNN表示:“咱们咱们都会支持良好的治安管理,但谁都不想生活在处处受监控的环境中。我认为旧金山有职责提出那些正对全世界发生影响且发生在人们身边的工作。”
图片来历:世面
假如你认为人脸辨认是因隐私问题、惧怕被监控而禁用,那只猜对了一半。
另一个重要原因——说出来更像是Black Lives Matter的影响——种族轻视问题。
波士顿市议会议员Michelle Wu和Ricardo Arroyo说,人脸辨认对不同肤色的人存在轻视,辨认白人男性的准确率要比有色人种女性高得多。
议会的文件中也提到,人脸辨认并不行靠,不行靠的原因很大程度上指的是准确率的问题,也无法满足波士顿警署的要求。
2015年,有黑人被谷歌的图像辨认算法辨认成了大猩猩。后来针对这个问题,谷歌干脆在分类中删掉了“大猩猩”这个标签。
图片来历:Twitter
通过几年开展之后,2018年Joy Buolamwini和Timnit Gebru的研究首次提醒了商业人脸辨认体系的缺陷:人脸辨认针对黑人女性的错误率高达21%~35%,而针对白人男性的错误率则低于1%。
图片来历:Bloomberg QuickTake Originals & MIT Media Lab
假如是在警用安保等场景下,结果或许会十分严重。
另一项研究发现,或许是由于运用RGB摄像头进行人脸辨认时,深肤色人的人脸特征比较难找,尤其是在暗光条件下。此外,在一个被广泛运用的人脸辨认数据库中,75%都是男性,一起80%是白人。
更有甚者,2019年年头,亚马逊的图像辨认AI体系Rekognition曾将28名美国国会议员辨认成了罪犯,让整个科技职业一片哗然。
图片来历:ACLU
Rekognition视觉辨认技能是亚马逊在2016年推出的,开始是根据海量数据库进行物体辨认,但很快就成为美国警方等法律部分用于扫描嫌疑人和不合法移民的主要技能。
美国公民自在联盟(American Civil Liberties Union,ACLU)称人脸辨认为“或许是有史以来最风险的监督技能”,并屡次上书美国政府,要求亚马逊中止向警方供给其Rekognition人脸辨认技能。
值得一提的是,2019 年,亚马逊在股东会议上就“中止向政府组织出售人脸辨认技能”进行投票,结果显现,只要2.4%的股东赞同这一出售禁令,所以投票没有通过。
不过当越来越多人意识到这项技能背面的隐患,社会舆论环境正在迫使这些科技公司做出改动。
4月份刚刚走马上任的IBM首席执行官克里希纳,近期就在致国会的信中说,有必要对人脸辨认和人工智能技能进行严格测验,以查看偏倚,而且有必要对这些测验进行审阅和陈述。
“IBM坚决对立而且绝不忍受将任何技能(包含其他供货商供给的面部辨认技能)用于大规模监督,种族貌相、侵犯基本人权和自在,或任何与咱们的价值观、准则相抵触的场景。”他说。
图片来历:IBM
据CNBC报导,一位知情人士称,IBM此举迎合了当时美国社会对差人改革和种族相等的激烈呼声,一起也是一个在商业和道德双重影响下的重要决策。
在IBM退出人脸辨认范畴之后,亚马逊发布声明称,将暂停向警方供给其人脸辨认技能(Rekognition)一年时刻。一起,亚马逊也表示:“咱们期望这项为期一年的禁令能给国会满足的时刻来实施适当的规则,假如有恳求,咱们随时预备供给帮助。”
在亚马逊宣告的第二天,微软总裁Brad Smith在《华盛顿邮报》的采访中称,将不会向美国警方出售人脸辨认技能,直到美国出台相关国家法律,能够监管这项技能。
尔后,微软首席执行官萨蒂亚·纳德拉也发布了观点:“某些技能对社会具有潜在风险,假如乱用,政府应对其进行监管。”
一起,微软公司对外的声明是:当连人脸辨认的制造者也由于这种监控技能太风险而拒绝出售时,立法者就不能再坚称对咱们的权利和自在的没有威胁了。
图片来历:Microsoft
简单来说,正是根据隐私安全和种族轻视两大原因,才导致了越来越多的地方政府和科技公司对于人脸辨认技能的弃用。
虽然这一禁令或许给硅谷的科技公司带来不小损失,但在问题得到解决之前,恐怕各方不会容易放松对人脸辨认的监管。
当然,社会针对人脸辨认技能的禁令,不是制止个人运用这项技能,更不是制止这项技能的开展。咱们用自己的脸解锁自己的iPhone,这彻底不会受到约束。现在真正受到约束的,是权力组织(政府、差人等)以及商业公司对人脸辨认技能的运用。
假如是政府或许差人运用这项技能在公共场所进行监控,那么公众很或许并不知道自己的脸正在被拍照、扫描、剖析、比对、纳入数据库,即使知道也不行能把人脸辨认体系关掉。
约束权力组织运用人脸辨认技能,更多是为了防止一个压榨性的监控国家的发生。
而科技公司作出约束,也是防止他们本身或许出于商业利益的追求,大规模地搜集人脸数据,而且或许会在不通过消费者本人许可的情况下将这些数据出售、乱用。
三、交出自己的脸,咱们会得到什么?

1558607542502585-lp-lp.jpg

回到文章开篇提到的电视剧《全知》。
在微型无人机24小时监控下,从生理目标到行为模式,人们的每一个眼神、每一句话、每一个行为,都被摄像头记录在案。谁能把握存储了一切印象资料的数据库,谁就具有了上帝视角。
图片来历:Douban Moive
这样巨大的利益,如何能令人不动心?
剧情的设定,将科技效果下人道的异变展现得酣畅淋漓。硅兔君在这里就不剧透啦。但这个虚拟故事的结局也在警示当下,当科技前进到必定程度后,假如巨大的能力把握在怀有歹意的个人或组织手中时,将会带来无法想象的灾祸。
信任这是咱们都不乐意看到的。过去数年中,人脸辨认是开展最快的新技能之一,不能否认这项技能在年代科技的迭代更新中起到的推动效果。
图片来历:英伟达GPU技能大会上展示的法律人脸辨认体系
你看现在世界的每个旮旯——过境处、警车、体育场、机场和高中等等,那些高高悬在人群上空的摄像头。
人脸辨认技能,能够帮助监管人员发现犯罪分子并防止身份欺诈,能够前进破案率、下降犯罪率,一起也能够帮助寻找失踪儿童。但这也不足以抵消人们对这项技能被乱用的忧虑。
曾经有个组织做了一项调查:
你乐意用多少隐私,来交换工作和生活的便利?0是彻底不走漏隐私,10是把一切隐私都交出去。调查结果是,绝大部分人都把隐私值设定在6左右。即人们倾向于抛弃一部分隐私来获取便利性。
不过放到实际生活中,这真的能由咱们自己掌控吗?科技的前进无法阻挡,只期望人脸辨认技能商用的脚步能放慢一点点,立法和监管的脚步能再快一点,在善与恶之间找到一个平衡点。
参考资料:
https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html
https://www.ibm.com/blogs/policy/facial-recognition-susset-racial-justice-reforms/
https://www.bbc.com/news/technology-52978191
https://new.qq.com/omn/20200629/20200629A0NKC700.html
https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html