网易首页 > 网易科技 > 网易科技 > 正文

程序员"道德准则"将出炉 但用户数据采集无法停止

0
分享至

本文系网易智能工作室(公众号 smartman163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯 2月11日消息】科技行业正进行自我反思。就连扎克伯格和库克都在公开谈论软件和算法在我们生活中所带来的负面影响。虽然已经有越来越多的人向一些业内人士游说,想要阻止他们或试图制定任何行业规则,但这些业内人士正制定自我管理的准则。有一个想法值得人们探讨:掌控程序的程序员和数据科学家是否应该立下一个数字的希波克拉底誓言,作为行业道德的要求和行为准则?

图:希波克拉底誓言

上个月,微软发布了一份关于人工智能对社会的影响的报告。该报告认为,约束编程人员,像医生们一样也立下“不伤害他人”的承诺,“这是有意义的”。周二在旧金山,数十名来自科技公司、政府和非营利组织的数据科学家开始为他们的职业起草一份道德规范。

这次会议的普遍感觉是,是时候让那些在统计分析方面有才能的人意识到他们自身的力量,并将其用于实现更大的利益。曾在奥巴马时期任美国首席数据科学家的DJ·帕蒂尔告诉记者:“我们必须让从事技术工作的人们说‘等一下,这是不对的。'”

帕蒂尔启动了这个活动,称之为“数据交换”(Data For Good Exchange)。与会人士包括微软、拼趣(Pinterest)和谷歌的员工。

帕蒂尔设想的是让被道德准则约束的数据科学家们来反对企业和机构的安排,以防止有违行业道德准则的情况出现。这一愿景吸引了一些专门从事数据分析的人。来自企业软件初创公司“数据科学”的戴夫·古德史密斯周二写到:“作为一门学科,我们正处于起步阶段,我们比任何人都更能通过人工智能领域的机遇和挑战来引导社会。”

其他人则有些犹疑。市场营销公司Valassis的高级数据科学家Schaun Wheeler通过Slack和一个实时视频流也观看了周二的会议。这一会议开始之前他就有所怀疑,完会后疑虑更甚。他说,这份草案看起来像是一份没有人会反对的一般性原则的列表,而且正应用于一个缺乏相关权力机构或法规来规定实施这些原则的行业。尽管为数据科学家提供的正式培训项目越来越多,但包括Wheeler在内的许多人都是自学成才。

周二的讨论结果便是一份原则清单,且未来几周内将对这些原则进行评估和发布,以获得更广泛的反馈。其中包括“肯定会有偏见。衡量它。为它做出计划”,“尊重人类尊严”和“运用道德想象力。”该项目的组织者希望能看到10万人签署最终版本的誓言。

Wheeler说:“科技行业最近受到了批评,我认为这是理所当然的,因为它天真地认为它可以修复这个世界。你若是认为可以通过某种道德准则来解决整个复杂的问题,比如数据泄露,这就是狂妄自大。”

周二会议的一个辩论主题是,一个不具约束力的自愿准则是否真的能保护那些敢于在工作中提出道德问题的数据科学家。另一个主题则是,这是否会产生很大的影响。

美国电话电报公司的数据科学家里希拉·贾拉罕说,他对于起草一份道德承诺的所作出的种种努力持支持的态度。他描述了在他和一个同事拒绝加入一个有他们认为没有行业道德的公司参与的项目之后,他们的愿望得到了尊重。但是调换了一些工作人员之后,项目还是继续进行。

现有证据表明,科技公司通常只有在意识到道德问题会对其资产负债表构成直接威胁的时候,才会将其放在心上。扎克伯格可能对其公司控制信息传播的方面表现出了悔意,但这也是因为Facebook遭受了政治压力,因其在俄罗斯干涉2016年美国大选中所扮演的角色。

通过为他人提供平台而赚钱的科技公司可以有更多的理由不去规范道德。任何在搭建自己的平台过程中能吓跑客户的东西都是有风险的。

微软关于人工智能和社会的宣言讨论了程序员应当作出的“希波克拉底誓言,以及对人工智能新用途的伦理审查过程。但微软总裁布拉德·史密斯表示,微软不会指望用微软的云服务构建人工智能系统的用户也一定要达到同样的道德标准。他说:“这是一个非常重要的问题,我们自己都还没有回答出来。我们创造了微软文字处理软件,并且知道人们可以用它来写好的东西或者是可怕的内容。”

隐私权激进分子阿拉尔·巴尔干认为,本周起草的这一份道德规范实际上可能会加剧技术所造成的社会危害。他担心,公司会把它作为一种美德的标志,但他们还是会像从前一样继续经营。他说:“我们应该探索的是,我们如何才能阻止这种因利益而进行的大规模的人类数据采集工作。”他指出,欧盟的《全面数据保护条例》(General Data Protection Regulation)将于今年生效,这是防止算法的坏处的更好模式。

帕蒂尔曾经是LinkedIn的首席科学家,但他有点像巴尔干,对科技公司是否有能力仔细思考自己的个人数据驱动产品的影响持怀疑态度。他说:“我不认为我们现在的社会可以依赖于这一法规,因为我们在社交平台看到的和科技公司的行为都是由利润驱动的。”

从长远来看,帕蒂尔说,他对道德规范草案的希望之一是,它有助于激励政策制定者制定更坚定、但也是经过充分考虑的限制标准。他说:“我希望看到,周二的会议能够开始定义真正的行业内政策。”

(选自:luxoraleader 编译:网易智能 参与:Rosie)

相关推荐
热点推荐
NBA最新排名:老鹰创NBA奇迹,快船岌岌可危,尼克斯剑指第二

NBA最新排名:老鹰创NBA奇迹,快船岌岌可危,尼克斯剑指第二

篮球大视野
2024-03-29 11:56:49
事大了!专家认为河北杀人的根源在其父母,评论区炸锅了

事大了!专家认为河北杀人的根源在其父母,评论区炸锅了

青史浩然
2024-03-29 09:55:28
初试428分无缘复试,考生吐槽390分的人走了后门,复试名单打脸了

初试428分无缘复试,考生吐槽390分的人走了后门,复试名单打脸了

飞鱼的说说
2024-03-28 18:00:50
彭德仁:我救龙国4万人,还有人不满意,很多坏事是龙国人带头的

彭德仁:我救龙国4万人,还有人不满意,很多坏事是龙国人带头的

泸沽湖
2024-03-29 13:49:22
韩媒:韩国队应在6月世预赛争取全胜,从而在18强赛避开日伊

韩媒:韩国队应在6月世预赛争取全胜,从而在18强赛避开日伊

直播吧
2024-03-29 10:41:24
基辛格曾预言:一旦爆发大规模战争,日本首先会对这3个国家开战

基辛格曾预言:一旦爆发大规模战争,日本首先会对这3个国家开战

科技讲者66
2024-02-18 22:45:51
绿军加时爆冷遭老鹰双杀:塔图姆31+13 穆雷44分0.1秒绝杀

绿军加时爆冷遭老鹰双杀:塔图姆31+13 穆雷44分0.1秒绝杀

醉卧浮生
2024-03-29 10:04:17
英语被踢出主科!专家:一旦成真,就和钢琴一样,普通人学不到了

英语被踢出主科!专家:一旦成真,就和钢琴一样,普通人学不到了

侃故事的阿庆
2024-03-29 17:08:35
曹云金正式道歉,称自己曾年轻气盛做错事,想要与郭德纲和解!

曹云金正式道歉,称自己曾年轻气盛做错事,想要与郭德纲和解!

花花lo先森
2024-03-29 14:51:41
中方当面要求,确保光刻机正常输华,荷方:出口管制不针对第三国

中方当面要求,确保光刻机正常输华,荷方:出口管制不针对第三国

我是娱乐哥
2024-03-28 13:07:04
国运来了挡都挡不住?俄乌战争最起码给中国又争取了五年时间

国运来了挡都挡不住?俄乌战争最起码给中国又争取了五年时间

曾经年少
2024-03-05 11:38:53
汪小菲晒钻戒宣布求婚成功:送女友Mandy价值百万的豪车

汪小菲晒钻戒宣布求婚成功:送女友Mandy价值百万的豪车

素素娱乐
2024-03-28 22:15:19
伊朗用人民币取代美元结算石油,拟从德国空运3亿现钞回国

伊朗用人民币取代美元结算石油,拟从德国空运3亿现钞回国

山股长
2024-03-29 12:00:03
沈阳市委书记王新伟已经出任辽宁省委副书记

沈阳市委书记王新伟已经出任辽宁省委副书记

澎湃新闻
2024-03-28 20:24:30
再吃回头草! 火箭计划签约19+6+6后卫! 季后赛稳了!

再吃回头草! 火箭计划签约19+6+6后卫! 季后赛稳了!

小霞掌勺
2024-03-29 12:27:55
性生活互吻私处,真的健康吗?

性生活互吻私处,真的健康吗?

徐海洋的历史故事
2024-02-19 14:43:47
一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

一留学姑娘哭诉:一学期学费25万,对不起父母,留学不那么有用!

杂谈哥闲谈
2024-03-28 22:50:32
最牛逃犯:在家乡建行宫圈养10位情妇,最小的仅18岁,至今未落网

最牛逃犯:在家乡建行宫圈养10位情妇,最小的仅18岁,至今未落网

历史八卦社
2023-11-29 17:54:14
南通的某些官员正骑虎难下时,广州又来打脸了!

南通的某些官员正骑虎难下时,广州又来打脸了!

巴城的城
2024-03-28 21:45:26
麦考伊:我会把小卡排KD前面 因为他在无水花兄弟的情况下夺冠了

麦考伊:我会把小卡排KD前面 因为他在无水花兄弟的情况下夺冠了

直播吧
2024-03-29 19:57:04
2024-03-29 20:24:49

科技要闻

雷军:我们是卷王,建议BBA车主感受下时代

头条要闻

拉夫罗夫:5月21日后可能不再承认泽连斯基为乌总统

头条要闻

拉夫罗夫:5月21日后可能不再承认泽连斯基为乌总统

体育要闻

拒绝为国出战,他是足坛"天选打工人"

娱乐要闻

胡夏被曝有孩子!工作室火速辟谣

财经要闻

张维迎:如何正确理解企业家精神?

汽车要闻

找回久违的开怀大笑 试驾小米SU7 Max

态度原创

时尚
手机
数码
艺术
健康

孙艺珍生完孩子,玄彬老了十岁

手机要闻

消息称苹果 iPhone 16 Pro 系列手机采用全新抛光钛金属工艺

数码要闻

6999元!铭凡V3三合一平板正式发布:锐龙7 8840U、秒变游戏主机/外屏

艺术要闻

艺术开卷|从闺阁、庭院到郊野,古画中的女性生活空间

早防早筛,远离肝硬化

无障碍浏览 进入关怀版
×