算法是强大的工具。有了这些可以解决问题或完成任务的数学指令，你就可以从婚介机构那里接收到潜在的约会机会，从Netflix收到电影推荐，以及收到网络广告商最有可能吸引你的广告。可是，尽管算法能够为我们节省时间，使决策更加方便，但使用它们也需要付出代价，特别是当人类处于危在旦夕的境地时。
举例来说，当算法被用于决定谁应该被雇佣或那个人应获得贷款时，人类就被简化为数据点，人类基于个案的判断能力被剥夺。Facebook目前受假新闻所困就证明，算法并非总是能拥有人类那样的洞察力。更糟糕的是，算法可加强种族歧视或阶级意识，从而导致弱势群体的处境更加糟糕。
哈佛大学研究发现，当人们通过谷歌搜索某个与非洲裔相关的名字时，这个搜索引擎更有可能显示出售犯罪记录的广告。MIT教学系统实验室执行主管贾斯汀·里奇（JustinReich）认为，算法将不可避免地让设计它们的人受益，即受教育程度更高的白人和亚洲男性。
里奇在接受皮尤研究中心进行的调查时说：“大多数处于特权地位的人会发现，这些工具便利、安全，非常有用。而新技术的危害往往被社会中处于弱势地位的人群承受，比如广告算法提供保释代理人的广告，因为它推测读者可能是罪犯。当然，还存在其他与种族等相关问题。”
算法有可能加宽特权者与无权者之间的鸿沟。FittoTweet的所有者赖安·海耶斯（RyanHayes）说，那些理解这些算法工作原理的人，了解如何能够最有效地利用它们的人，将会成为算法的受益者。然而，那些没有接受过太多教育、可用资源有限的人会被远远落在后面。
海耶斯表示：“25年前，我们谈论的‘数字鸿沟’是指那些家中有电脑和家中没电脑的人之间的差距。而10年后，与那些使用传感器、强大AI以及可连接到大量数据的人相比，没有这些设备和服务或不知道如何使用它们的人的生活将完全不同。这种鸿沟会自我延续，那些更少能力的人在很多方面显得更为脆弱。”
虽然算法带来的潜在后果越来越得到广泛认可，但这些工具依然被广泛使用。许多领导人（包括美国前总统奥巴马）都在敦促对算法加强监督，增大透明度，因为算法已经影响到民众的日常生活。美国马里兰大学计算机科学教授本·施奈德曼（BenShneiderman）表示，为了最小化降低算法的危险，它们必须能够理解普通用户和专家用户。
施奈德曼说：“精心设计的算法可增强人的能力，但它们必须是可理解的、可预测的以及可控的。这意味着，它们的设计必须保持透明，以便用户能够理解使用它们的影响，它们必须接受持续评估，以便批评家评估它们的偏见和错误。”
微软首席研究员乔纳森·格鲁丁（JonathanGrudin）说，如果我们能够利用算法的力量，不允许它们延续不公正或非人性特征，我们很可能从这些技术奇迹中获益。他表示：“算法不在控制中，人们创造和调整它们。可是，对于某人来说是积极的影响，对于他人来说就可能是负面影响。为此，我们需要继续努力理解和调节平衡。我乐观地认为，随着技术使用带来的巨大潜力增强，我认为算法的总体趋势是能带来积极影响。”
18221259202