赞
踩
首先是人类的认知局限
算法是人类开发设计的,必然也反映着人类的主观认知。算法困境的很重要原因是人类主观认知的局限性造成的。
其一,开发算法的人员可能会存在认知上的偏差甚至偏见,而算法不仅会继承人类的偏见,而且还可能随着数据的积累和算法的迭代而被强化和放大;其二大数据、人工智能以及作为其核心的算法仍然是一个新生事物,人类对于其可能造成的负面影响存在认识不足的情况。
其次是企业的经济动因
算法虽然在客观构成上是一系列冰冷的代码,但它仍然是人类智力活动的结果,算法既受到人类认知发展水平的制约,也不可避免受到人类主观行为的影响。企业是追求经济利益最大化的市场主体,企业对算法功能的开发、设计必然服务于其经济目标的实现。
为了让数据创造更大价值,企业会以各种方式获得用户数据;为了获得流量,企业会根据数据对用户精准画像并进行定制化的信息推送。带有偏见和歧视的数据经过算法运算之后产生的结果也会带有不公平性。
再次是平台的数据优势
超级平台是供应商和商品/服务最终用户的交易中介,掌握着双方的搜索、评论、互动、收藏、交易等各种数据,而且在大数据、云计算等技术的支持下,所有的历史交易都能被保存、追溯和分析,再加上与其他来源数据的交叉比对,平台能够获得供应商和用户在互联网上的全本信息。相比之下,平台上的供应商和用户只拥有自己个人的数据,与平台掌握的数据完全不在同一个数量级。平台对数据的掌握也就意味着掌握了互联网上最重要的流量,它既可以向供应商出售流量,也可以引导最终用户的流量。面对平台的数据和流量优势以及高度集中的市场格局,供应商在与平台的谈判中毫无优势,因此就出现了“二选一”等现象。同样,平台还能够利用对消费者近乎完全的信息掌握,对消费者制定高度差异化的歧视性价格,而处于信息劣势的消费者只能被动地接受平台制定的价格。
第四是算法的技术黑箱
企业的算法对于它的供应商、用户以及监管机构存在着很高的不透明性。算法的不透明性有三种来源:
一是由于商业秘密保护所导致的不透明性,这种以维护竞争优势为名的保护也可能是一种规避法规、操纵消费者和实施歧视的新形式的掩护;二是对于技术外行的不透明性,编写和阅读代码和算法设计是一项高度专业化的技能,需要长期的学习和经验积累,大多数人无法胜任;三是算法本身复杂性导致的不透明性,机器学习形成的算法不但规模巨大,而且算法的内部逻辑随着对训练数据的学习而不断改变会进一步增加代码的复杂性。不透明性使企业的算法成为很难为外界所知的技术黑箱,数据的海量化,场景的个性化,算法的专业化增加了外界监督的难度,助长了一些企业经营者和算法开发者为追求经济利益而采取有悖法律法规、社会道德伦理的行为。
最后是数据素养的差异
国家间由于经济发展、数字基础设施、数字产品购买力以及素质教育的不同,而出现的数字化程度的巨大差异被称为“数字鸿沟”。即使在同一个国家内部,数字鸿沟因为所处地区、收入水平、受教育水平、年龄等而同样存在。在我国由于大规模的信息基础设施建设,网络覆盖率的差异已经不成为数字鸿沟的主要原因,个人智能终端性价比的不断提高也促进能够联网的智能设备日益普及,数字鸿沟实际上主要存在于代际之间。年轻一代是数字经济原住民,从小就使用数字产品并接受素质教育,而老年人由于学习能力差、购买力低,许多人没有智能终端,即使有智能终端也无法掌握各种操作,使他们被排斥在数字经济带来的强大生活功能和便利性之外。
一是加强企业社会责任建设
督促互联网企业以及正在进行数字化转型的企业加强企业社会责任建设,规范规则设立、数据处理、算法制定等行为,在算法设计之初就要将法律、核心价值观、道德伦理等人类价值嵌入到算法之中,让数字科技企业、算法开发人员将服务于国家和社会利益、造福于人民群众作为基本遵循。算法开发者应提高算法的透明度和可解释性,增强对算法安全评估和管控能力;当算法开发者遇到算法可能造成危害和风险时,主动对算法进行修正和调整,推动形成负责任的算法,实现算法向善。
二是完善算法治理规则
进一步完善数据立法,对数据的权属、转让、交易等进行规定。积极参与数据跨境流动、算法应用、算法安全等领域国际规则合作,完善多边数字经济治理机制。根据数字经济发展出现的新模式、新业态、新现象、新问题,研究制定关于新型不正当竞争行为认定、处罚的法律规范。针对零工经济、灵活就业现象,研究完善平台从业人员权益保护规定和社保政策等。通过制定合理使用算法的法律规范,防止数字企业利用数据优势和算法技术排除、限制竞争,加强消费者权益的保护,维护公平竞争秩序。
三是加强对算法的规制
尽管算法具有很高的技术门槛,但政府对互联网公司的监管应扩大到算法层面。赋予监管机构监管数据和算法的权力,探索基于大数据、人工智能、区块链等新技术的监管模式,增强监管部门的监管能力,提高算法相关风险的识别、预警和防范。对算法开发者和使用者设置算法审查、算法风险评估与算法解释等义务。当算法使用过程中出现有损于社会利益的结果或暴露潜在风险时,监管机构有权打开算法黑箱,聘请第三方服务机构或组成专家委员会对企业的数据与算法合规性进行审查。
四是建设数字友好型社会
继续推动信息基础设施建设,提高通信网络的覆盖率和可获得性。加强对边远地区、老年人、少年儿童的数字应用教育,帮助他们掌握数字设备的使用。行业主管部门应发布规定,要求智能硬件开发和互联网服务提供企业,在产品和算法开发时,要考虑老年人、残疾人等社会弱势群体的需求,提高算法对弱势群体的友好性。例如,通过一键叫车、人工客服接入等设置提高算法的“适老化”程度。
AI 中台是用来构建大规模智能服务的基础设施,提供模型设计训练、模型/算法库、复用标注管理、模型监控服务等能力支持。AI中台旨在让企业业务前台可以短兵作战、小步快跑、降低试错成本,更便捷地借助AI加速业务创新。
机器学习的工作流程异常复杂、耗时,这些流程包括数据准备、选择、优化机器学习框架和算法、设置训练环境、训练并调优模型、在部署和监控模型等等。
如果把算法工程师和数据科学家比作大厨,那么要做出一道美味的菜肴(一个能在企业生存环境中应用的算法模型),他们90%以上的时间都要花在“捡柴火、搭灶台、铸铁锅”这些自身并不擅长的工程搭建环节。
AI中台为开发者提供了一套完备的“中央厨房”,内置了丰富的各类厨具、设备和食材半成品(机器学习服务和预置的算法),开发者无需自己搭建厨房,只要自带食材(训练数据)就可以做菜(训练模型)了。
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。