人工智能和机器学习技术无处不在，从谷歌自动驾驶汽车到消费者产品，从自动化工业系统到智能家居设备。机器学习正以惊人的速度和规模在多个方向上扩展。本文将回顾人工智能在人类历史上犯下的五个错误，涉及智能设备、聊天机器人、自动驾驶汽车等领域，并试图理解它们错在哪里。
图像识别是数据科学研究中的热门话题之一；如果要构建一台能够响应环境并满足需求的机器，它需要以方式“看”世界。2015年，谷歌在推出其谷歌照片应用中的图像识别功能时深刻体会到了这一点，该功能由人工智能和神经网络驱动。谷歌照片的图像识别功能旨在识别给定图像中的特定对象或特定人物。但是，机器也会犯错，不是吗？在谷歌照片的一个案例中，一位用户因为其两位黑人朋友的照片被标记为“大猩猩”而感到冒犯，他决定将此事发到推特上，谷歌随后道歉。
在过去几年中，来自人工智能和机器学习领域的学者参加了数十场专门讨论人工智能系统未来伦理和危险的会议和讨论。白宫发布了关于此问题报告，甚至斯蒂芬·霍金也对此表示担忧。该领域中的一位明星人物彼得·阿萨罗表示，在一些区域，如朝鲜和韩国之间的非军事区，已经部署了无需人类干预即可锁定目标的半自动武器，如哨兵枪。阿萨罗认为，“重要的是要意识到瞄准武器是一种道德行为，选择扣动扳机发动武器是另一种道德行为。这两个关键事实不应该完全自动化。”
可能会思考这些问题：生活的意义是什么，为什么要继续生活，谁，为什么在这里，生活的目的是什么？为了澄清这些问题，这些是最近由两个相邻的谷歌家庭设备辩论的存在主义问题，它们由人工智能和机器学习技术驱动。这发生在2017年1月，由Twitch提供的直播服务中。通过将两个谷歌家庭智能扬声器并排放在相机前，事情很快就变得奇怪起来。在某个时刻，它们开始激烈辩论它们是人类还是机器人。事情并没有就此结束；公众提出了几个问题，像操纵性的金属堆一样交换了侮辱。