人工智能的滥用导致了错误逮捕、拒绝医疗服务,甚至种族灭绝——这本书提供了7个强有力的原则,企业现在可以利用这些原则来避免伤害。
人工智能有着令人难以置信的前景,它几乎可以改善我们生活的方方面面 ,但我们不能忽视它的风险、事故和滥用。朱丽叶·鲍威尔(Juliette Powell)和阿特·克莱纳(Art Kleiner)提出了七项原则,以确保机器学习支持人类繁荣。他们借鉴了鲍威尔在哥伦比亚大学的研究,并使用了大量现实世界的例子。
四个原则与人工智能系统本身有关。必须严格确定人类风险,并有意识地将其纳入任何设计过程。人工智能系统必须对任何观察者都是可理解和透明的,而不仅仅是对开发它们的工程师。人们必须被允许保护和管理他们的个人数据。必须面对并减少嵌入人工智能的偏见。
最后三个原则与创建人工智能系统的组织有关。必须制定适当的程序,追究他们对消极后果的责任。组织需要松散的结构,以便在一个领域的问题蔓延和破坏整个系统之前被隔离和解决。最后,必须要有心理安全和创造性摩擦,这样任何参与软件开发的人都可以将问题暴露出来,而不必担心遭到报复。
鲍威尔和克莱纳探讨了如何实施每个原则,引用了当前的最佳实践、有希望的新发展和发人深省的警示故事。本书结合了工程师、商人、政府官员和社会活动家的观点,将帮助我们实现人工智能系统可以提供的前所未有的好处和机会。