陈根：人工智能，为何要向善？

文|陈根

无人驾驶领域有一个经典的“电车悖论”，而“电车悖论”之所以经典，就在于其涉及到的并不是简单的算法问题，而是更重要的道德问题。原本并没有这么多辩论，是因为每个人有不同的道德。

在车祸中，人们不得已要牺牲谁的时候，每个人会依赖自己的道德做决定。所以在全社会，看到的是一个多样化的选择结果：有的人更保护乘客，有的人更保护路人，有的人先保护老人、有的先保护小孩、妇女等等。

而到了人工智能时，就将原本分散的问题、落到每个人的头上是随机的问题变成了算法下的固定问题。即人为设计的人工智能，成批地把道德观念统一地固定在了一个地方，就变成了“系统性地牺牲谁”的问题。而系统性保护谁、牺牲谁，就产生了的巨大的、引发辩论的道德和社会问题。

事实上，尽管人工智能的理论和算法渐趋成熟，但人工智能依旧是一个新生的领域，这也使得人工智能对社会的影响还在形成之中，而这个过程中，要想充分发挥人工智能对社会的效用，技术价值观的建设就显得尤为重要。

总体来说，人工智能发展的应以科技向善为方向，在不断释放人工智能所带来的技术红利同时，也要精准防范并积极应对人工智能可能带来的风险，平衡人工智能创新发展与有效治理的关系，坚持人工智能向善，持续提升有关算法规则、数据使用、安全保障等方面的治理能力，为人工智能营造规范有序的发展环境。

显然，人工智能在为人类社会发展带来更多便利、更高效率的同时，也会进一步模糊机器世界与人类世界的边界，导致诸如算法歧视、隐私保护、权利保障等风险问题，甚至会引发社会失业、威胁国家安全等严峻挑战。

一方面，过于严苛的治理方式会限制人工智能技术的创新与进步，导致任何技术创新都步履维艰。但另一方面，没有任何监管与规制的人工智能极易“走偏”，给人类社会带来风险与危害，与人工智能向善背离。

因此，应当找到创新发展与有效治理之间的平衡点，坚持安全可控的治理机制，将开放创新的技术发展并重，给予技术进步与市场创新适当的试错、调整空间，对人工智能发展既不简单粗暴、一刀切似地扼杀，也不任其自由泛滥。

而是要充分发挥出多元主体协同共治的效能，使各方各司其职、各尽其力，把握好治理原则，守住治理底线，确保人工智能产业创新活力与发展动力，提升公众在使用人工智能技术及产品时的获得感和安全感。