别重蹈谷歌覆辙!CIO为什么要重视技术的道德困境?

日期: 2015-07-14 作者:Nicole Laskowski翻译:陈晓诚 来源:TechTarget中国 英文

Mary Cummings是杜克大学的人类和自治实验室的主任,曾是战斗机飞行员。她对于技术伦理的探讨似乎并不是CIO们经常听到的话题,在本文里,她将以谷歌眼镜所面临的道德困境为例,讨论技术对于社会、个人隐私带来的深度影响,同时她还会解释为什么技术的社交和道德影响应该成为CIO工作事项的一部分,以及所谓价值敏感性设计的重要意义。


  
  问:你的专业领域之一就是技术对于社交和道德的影响。CIO们是否需要意识到智能设备或人工智能对于业务的道德影响?
  
  Cummings: 当然。每个管理层,每个人至少都需要意识到他们正在使用的技术的社交和道德的影响。
  
  现在就有一个很好的案例分析,就是谷歌眼镜。谷歌眼镜在我使用的范围内,有着一些很强大的应用,比如,飞机的维护,汽车的维修,在你完成一项任务时,在任何你需要的时候,可以在视野内看到一组程序或其他需要的信息。 因此,谷歌使用这一技术,并开始测试,认为这会是一个非常酷的设备,是人人都会喜爱的设备。
  
  然而,我认为谷歌是真的非常震惊,当他们发现这项技术存在那么多问题。人们不只是拒绝使用这一设备,在我去过的很多地方,门上写有标识,说明穿戴谷歌眼镜的人不允许进入,因为它侵犯了人们的隐私。
  
  这对于谷歌而言,有点莫名其妙。但是在产品设计领域一直有相关研究,比如,价值敏感性设计,理论上,当你有一个新的产品设计时,你应该坐下来,考虑各种附属问题——你的技术可能涉及到的社会和道德问题——这样你至少可以意识到这一点。 如果谷歌在早期意识到这一点,他们就会处于更有利的位置。
  
  问:我从来没听说过 “价值敏感性设计” 这个术语。这一流程应该从何着手呢?
  
  Cummings: 作为一名CIO,在设计产品的早期考虑这一因素是很重要的。即使你已经有了一个设计完成的产品,你也要尽快开始这一流程。你最好在早期解决这些问题,而不是等到有诉讼或负面新闻发生。
  
  问:你能将道德代码编写入系统吗?这可能吗?
  
  Cummings:有一些研究人员相信你可以对电脑进行编码,使它比人类更有道德,人类依赖于情绪反应,甚至在压力下,我们可能做出错误的决定。但是也有人反驳,认为人类的意义在于,基于人性做出决定,而不是冰冷的理性化。我的观点介于这两者之间,但是我更倾向于不编写道德代码,因为在我们进行编码的时候,我们无法预测所有的外部情况。比如,对于一台机器人杀手:我们不可能将它要面对的每一种情况,都编写进去。因此,除非你能保证结果的确定性,我不倾向于编写道德判断。
  
  问:这是否意味着你永远不会把人类从决策系统中剔除?
  
  Cummings: 这取决于决策系统本身。我认为在军事上是如此,因为这会涉及到生命损失,或者救治,这样的决定中需要有人类。当然,现在也有其他类型的决策——比如我的气泵的常规决策,你就不需要人类的参与。但是当我们讨论的决策会影响到一个或更多的生命时,或者,如果决策错误的话,会导致非常灾难性的结果,这样的情况就需要人类进行负责。

我们一直都在努力坚持原创.......请不要一声不吭,就悄悄拿走。

我原创,你原创,我们的内容世界才会更加精彩!

【所有原创内容版权均属TechTarget,欢迎大家转发分享。但未经授权,严禁任何媒体(平面媒体、网络媒体、自媒体等)以及微信公众号复制、转载、摘编或以其他方式进行使用。】

微信公众号

TechTarget微信公众号二维码

TechTarget

官方微博

TechTarget中国官方微博二维码

TechTarget中国

电子邮件地址不会被公开。 必填项已用*标注

敬请读者发表评论,本站保留删除与本文无关和不雅评论的权力。

作者

Nicole Laskowski
Nicole Laskowski

Nicole Laskowski is a senior news writer for SearchCIO.com and SearchCIO-Midmarket.com. She covers CIO strategies for analytics, business intelligence and data management. Prior to joining TechTarget, she worked as the news editor for a community newspaper in Arlington, Mass., overseeing the news content of both the weekly print publication and the newspaper’s website. Nicole also has worked for two other community newspapers in Oregon and Michigan and brings 10 years of writing and editing expe

相关推荐