工具,还是武器?这是需要铸剑者和执剑人共同思考的问题

2019 年 9 月,微软公司总裁施博德(Brad Smith)与卡罗尔·安·布朗(Carol Ann Browne)合著的新书《Tools and Weapons》正式发售。在这本书中,施博德深入探讨了科技领域的 15 个关键议题,包括科技与公众安全、网络隐私与网络安全、民主与社交媒体、数字外交与地缘政治、宽带与人才鸿沟、人工智能的伦理与经济后果等。这些议题相互契合,彼此关联。

在书中,施博德致力于引导读者“直面人类科技最紧迫的争议性问题”。他指出,使用数字技术和创造数字技术的人,都可以通过深入思考这 15 个议题真正受益。无论是人工智能及其对道德和就业的影响,还是数据问题,我们应如何制定有效、开放的数据战略,以及隐私和安全问题。当你开始思考世界各地人们最关注的一些问题时,它们实际上都是技术问题。所以,施博德努力试图提出并剖析这些问题。

几个月后,这本引起全球科技界、学术界乃至法律界大讨论的作品,出现在了中国读者的面前,带着“工具,还是武器?”的疑问,进一步引发大众对于技术双刃剑的思考。带着同样的思考和疑问,近日,中信出版集团联合北京周泰律师事务所,举办了“周泰·书声”品读会活动,从技术、伦理、行业、法律等角度共同探讨、解读本书内容。作为技术方面的代表,微软认为:技术确实是双刃剑,想要善用而不滥用,取决于技术从业者“执剑”于哪一面。

开启魔法的前提,是懂得如何关闭魔法

魔法师有一把神奇的扫帚,只要念起咒语,就能够为他做任何事情。小徒弟贪图扫帚带来的便利,偷学了咒语,趁着魔法师出门之际,悄悄开启魔法,却发现扫帚根本不受控制,最终将一切搞得一团糟。直到魔法师回来,念出了能让扫帚停下的咒语,一切才恢复正常。这是德国著名的思想家、作家、科学家歌德创作的《魔法师的弟子》。诙谐活泼的诗歌诗篇折射出的道理,让科技从业者也能够从中受到启发——在你学会如何关闭一个强大的工具之前,不要轻易开启这个工具。

类似的讨论,也出现在《工具,还是武器?》一书中。施博德提到,与多数行业一样,科技行业通常会急于推进创新,而并不帮助人们充分了解其性质或运作原理。除此之外,人们长期以来对科技拥有一种几乎已经成为信仰的信念,那就是新技术总是有益无害的。

虽然这种对科技理想化的观点常常植根于良好的意愿,但它并不现实。即使是最好的科技也会带来意想不到的后果,并且其带来的益处也很少能够普惠苍生。这还是在新技术尚未被错误地用于有害目的之前,而这种误用几乎不可避免。

微软中国首席技术官韦青对这方面的感受尤为深刻。他认为,技术绝不可能只存在好的一面,成熟的科技公司不能避之不谈,要对新技术带来的风险给予足够的预估,并能够有针对性地开展预防举措,同时充分发挥新技术的积极一面,做到“扬长避短”。这是每一个科技公司都需要学习和转变的过程。随着从软件提供商转型成为一家平台和生产力公司,微软在规避“科技理想化”方面,也完成了从“年少轻狂”到“老成持重”的成长。相反,如果只是盲目追逐技术带来的先进性,不去探究和规避其背后隐藏的风险,那无论是科技公司、还是采用技术的组织和个人,都将不可避免地成为“偷学咒语的学徒”,为自身和社会带来混乱。

韦青指出,近十几年科技企业遵循的是“疑罪从有”原则,即无法从一开始判断技术的利与弊,那么就默认技术存在弊端,并尽快发现,及时解决。这就是科技领域经常提到的 MVP(minimum viable product,最小化可行性产品)。他认为,这恰恰是当下时代技术应该遵循的理念,用科学的方法进行测试,用解决方案的迭代进行调研,最终保证技术的安全性和可靠性。

图:在近日举办的“周泰·书声”活动上,  微软中国首席技术官韦青(左起第二位)分享《工具,还是武器?》读书心得

图:在近日举办的“周泰·书声”活动上,

微软中国首席技术官韦青(左起第二位)分享《工具,还是武器?》读书心得

北京大学法律人工智能实验室/研究中心研究员王融认为,“科技理想化”可以理解为“数字鸿沟”的另一种表现形式。作为最早一批出现意识觉醒的科技企业,微软在消弭全球数字鸿沟方面做出了卓越贡献。而随着互联网时代来临,以及新常态下各种技术趋势的兴起,国内的企业也开始了这种意识觉醒,并逐渐发展成为整个科技产业的共同使命和愿景。

谈及执行层面,王融认为,这是一种科技向善的情怀,更是一个宏大的历史命题,需要科技企业具备宏观的视野,充分理解科技与政治、经济、文化甚至哲学之间的关系,才有可能提出一个精细化的制度、设计和执行方针,同时配合相关的制度和原则来对其加以保障。

技术发展需要成长型思维和开放性胸怀

需要注意的是,尽管规避“科技理想化”是每一个科技企业应当承担的责任,但在此之前,科技企业需要做的是明确自身的技术和产品定位,以及自身在行业和产业当中的角色。“兼济天下”的前提当是“独善其身”,只有实现了自身的成长,企业才能够肩负起更多责任。这其中的关键,就是成长型思维和开放性胸怀。

微软 CEO 萨提亚·纳德拉(Satya Nadella)在其倡导的成长型思维(Growth Mindset)中提到,在无法预测未来科技变化的前提下,成长型思维能够帮助企业和自身在面对不确定性时做出最佳反应,纠正自身错误,不断“刷新”自身。与此同时,微软积极营造基于成长型思维的多元化与包容性(Diversity and Inclusion, D&I)的环境。原因之一就在于,随着人类社会的不断发展,已经无法断言哪一种文化有着绝对的先进性。因此,更加多元与包容的文化环境更能够推动企业发展。这也恰恰是微软自身的发展经历——企业的成长包含着文化的成长。针对类似问题,施博德也在书中提出了三条给科技公司的建议:第一,放开胸怀,企业不是独立的个体,而是社会的一份子;第二,很多事情并不是一个企业的义务,友商需要通力合作;第三,正视政府与科技企业之间的关系。

基于成长型思维的开放与包容心态,让微软实现了成功的转型,并有机会对技术双刃剑引发的争议性话题进行深入思考,同时挖掘相应的可行性方案。韦青认为,微软走过的成长过程,是可以给到其他科技企业参考的。

中国社会科学院哲学所科技哲学研究室主任、研究员,中国社科院科学技术和社会研究中心主任段伟文表示,时代的发展进程越来越快。也因此,“能够做什么”与“应该做什么”之间的频率产生了偏差。在这个过程中,社会要允许一个磨合过程和机制的缓慢形成。对于技术和平台的定义,不需要过早去判断它的利与弊,更多要从其所处的社会环境和文化环境来判断。

科技伦理与道德——永恒的话题

《工具,还是武器?》中,施博德专门留出一整章的篇幅讨论人工智能与伦理。他认为,科技行业始终习惯于向前看,因此很少有人愿意花时间,甚至愿意接受一种有益的做法,即认真观察“后视镜”,以便能够利用过去的经验来预测转弯之处的问题。随着人工智能等技术开始引发一系列广泛的社会问题,公众对科技的信任以及相关的隐私与安全,迅速成为公众讨论的中心话题。

计算机被赋予了学习和决策的能力,越来越不受人类的干预。但机器将如何做出决定?它们能反映最佳的人性吗?还是会造成不那么鼓舞人心的后果?越来越明显的是,人工智能技术要想更好地服务社会,迫切需要以强有力的伦理原则为指导。因此,微软确认了人工智能的六大准则:公平、可靠和安全、隐私和保障、包容、透明、责任。关于最后一点,施博德在书中反复强调。技术本身是中性的,而发明技术的人和使用技术的人,是否有能力承担技术带来的影响力,是永远值得讨论的话题。因此,技术发展和使用过程中,对于人的问责机制是至关重要的,这是科技从业者必须坚守的底限。

北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯也有类似的看法。重要的科技公司所掌握的数据可能超过政府所掌握的数据,所以在这种情况下,政府要对科技组织有可能造成的问题进行监管时,需要仰仗科技公司、或者是介入科技公司。在这种情况下,今天的很多科技公司实际上扮演了一种中间人的角色。但另外一个方面,科技公司又必须要为成千上万的用户提供服务,那么它有责任保护用户的隐私安全,两者之间的平衡出现问题时,往往就会导致科技公司的角色和定位发生扭曲。

当使用技术改变世界时,你就有责任解决随之而来的问题。这是施博德在《工具,还是武器?》中的核心观点。要想建设一个更美好的世界,我们需要了解科技将走向何方,我们需要弄清楚如何使科技发挥作用,推动我们所有人关心的事情向前发展,目之所及的每一个领域,科技都既是解决方法的组成部分,也是需要我们认真思考的问题之一。从技术创新、到普及、再到责任的全新的发展循环,而我们要做的,就是驭之以道、律之以法、束之以德——携手把握未来趋势、引领智能互联网的发展,为全人类创造一个更加美好的未来。

相关文章