Siri发布前两年，英国人工智能资深专家尤里克·威尔克斯（Yorick Wilks）发表了一篇名为“人工智能同伴导论”（Introducing Artificial Companions）的文章，讲述了第四章讨论的这种技术。在文中，威尔克斯简短地回答了责任问题。他特别感兴趣的是，智能增长是否伴随着责任增长。威尔克斯写道，假设人工智能助手告诉你的祖母，外面很暖和，但当她听到这个消息后走进的却是冰冷的花园，然后她感冒了，那么这种情况下谁应受到责备？此时此刻，连威尔克斯这位毕生都在询问和回答未来问题的人都得承认，这个问题对于读者“似乎有些超出想象”。仅仅过了几年，2015年年初，在牛津，我与尤里克·威尔克斯在他家附近共进午餐。他驾驶着自己的小型汽车在火车站与我会合，我们在附近一家意大利餐厅品红酒，讨论人工智能助手的话题，愉快地度过了几个小时。午餐期间，我的头脑中一直在感叹着过去几年人工智能的发展是如何迅速。一个2009年看起来像是科幻小说情节的哲学难题现在几乎成了现实。
我们对人工智能助手寄予了极大的信任，有时甚至超过了我们的本能与判断。Siri最早的电视插播广告由佐伊·丹斯切尔（Zooey Deschanel）主演，尽管当时窗外明显地下着大雨，但是她仍然看着窗外问Siri：“在下雨吗？”幸运的是，当时Siri的答复非常肯定。而在其他场合，人们远没有这么幸运。2013年年底，阿拉斯加州费尔班克斯的几位iPhone用户按照使用苹果地图应用数据的Siri的建议，选择了一条抵达费尔班克斯国际机场的路线，但这条路线非常危险地穿越了飞机起降的跑道。机场的营销主管安吉·斯皮尔（Angie Spear）称这是个很明显的证据，说明司机太过于相信导航系统。“无论标志牌上写的是什么，只要iPhone上的地图告诉他们继续沿这条路前进，他们就前进。”她说。
在处理技术引发的此类交通事故中，当前可用的法案条例非常有限，不过以往法院一直趋向做出针对人类的判决。比如，2009年，一位英国司机依据GPS（全球定位系统）的导航，却令自己困在了悬崖边的狭窄小路上。这名司机最终不得不被警察拖回主路。尽管英国法庭将之归因于他的GPS，但还是认定其有大意驾驶的过错。
法官倾向认定人类对此负责的原因是，我们习惯于一个充斥非智能工具的世界。举一个简单的例子，一个人用枪杀了另一个人，他应为自己的罪行负责，而不是让他的枪负责。同样，一家公司销售了有瑕疵的枪支，购买者在使用的时候枪支发生了爆炸，枪支公司应对所造成的所有伤害负责。这种思维也持续到了数字时代。1984年，也就是苹果公司首次推出麦金塔电脑（Macintosh，简称Mac）的这一年，美国一家名为阿斯隆工业的公司老板发现自己成了法庭的被告，他被指控使自己的客户置身危险之中。阿斯隆公司是一家销售自动投球机的公司，设备主要用于供人进行棒球挥棒练习。不幸的是，其中一些机器被证明存在缺陷。这些凶猛的机器发射的棒球极不规律，而且速度极快，有可能使某些不走运的客户颅骨骨折，甚至失明。尽管阿斯隆案件中没什么特别值得关注的事，但这个案件却令人难忘，因为法官宣布必须对阿斯隆工业而不是投球机进行起诉。原因是什么呢？因为“我们无法起诉机器人”。
然而，现代人工智能的主要不同点在于，人工智能不再仅限于由人类使用，而是一种由人类部署的工具。一旦部署，在多数情况下，机器就会按照所收集、分析和最终用于做出决定的信息，独立于指令而自行运转。
戴维·弗拉杰克（David Vladeck）是华盛顿乔治城大学的法学教授，他是一位少有的致力于研究人工智能法律责任问题的法律专家。和多数人一样，他认为陈旧的“我们无法起诉机器人”的观念可能需要改变。弗拉杰克的一个思维实验涉及《2001：太空漫游》中HAL9000超级计算机蓄意杀人案件。
对那些没有看过这部电影的人来说，这是一个非常简单的情节：HAL9000是全知的人工智能，控制着“发现一号”宇宙飞船的运行，飞船载着5名船员飞往木星。在电影的开始部分，HAL9000被称为“简单且不会出错”。然而，问题很快出现了。HAL9000希望知道“发现一号”正执行的绝密任务细节。船员戴夫（Dave）和弗兰克（Frank）拒绝透露这些信息，尽管事实证明他们也不知道所有细节。不久，HAL9000警告称“发现一号”舱外一个重要天线将要失去作用。戴夫和弗兰克开始怀疑HAL9000并把自己锁在了一个挖掘工具里讨论这件事，他们认为HAL9000不可能听到他们的对话。他们决定修复天线，还决定如果事实证明HAL9000出现了故障就关闭HAL9000。戴夫和弗兰克没有意识到HAL9000能够利用图像识别技术解读唇语。当弗兰克涉险到舱外检查天线时，HAL9000割断了他的氧气管并使他飘浮进了太空。戴夫徒劳地想挽救弗兰克，但当他也走到舱外的时候，HAL9000趁机关掉了其他三位正在睡眠中的船员的生命维持系统，杀死了他们。HAL9000随后拒绝让戴夫返回舱内，因为它知道戴夫会将它停用，而HAL9000认为这将危及整个任务。尽管如此，戴夫最终还是设法回到了“发现一号”飞船内，并且准备关闭HAL9000。HAL9000恳求戴夫停手，在最后的时刻，作为一个自主人工智能，它表达出了自己对死亡的恐惧。
弗拉杰克质疑HAL9000是否能够在法庭上对自己的行为负责。假设戴夫于2001年年底重新回到了地球，与一位人身伤害律师进行接洽（“你是否无故卷入了人工智能杀人案件之中？”），并要求有人对自己的遭遇和4位被HAL9000无故杀害的船员进行赔偿。至少按照现有法律，HAL9000可能会摆脱困境。与阿斯隆工业的失常棒球抛射机器一样，法庭处理这种案件时，可能承认机器造成了伤害，但会认定这是HAL9000程序员的错误而不是HAL9000的错误。
这可能不公平。正如弗拉杰克所说：“仅从可能参与设计、修改和集成人工智能系统元件的个人与公司的庞大数量看，就很难确认大部分责任人或责任方。许多元件早在人工智能项目构思之前许多年就已经设计出来了，这些元件的设计人员可能从未设想，或鲜少预期到他们的设计会集成到人工智能系统中，更不用说会造成伤害的某个具体的人工智能系统了。在这种情况下，指责在时间和地理位置上都与人工智能系统完成和运行相距甚远的元件设计人员有工作失误是有失公允的。法庭可能也不愿意说这种元件设计人员本该预见到这种伤害的出现。”