【AI世代编者按】索菲亚，一个仿真机器人，她成为了本周一场人工智能会议的亮点，但她背后的技术引起了大家对人类未来工作的担忧。
索菲娅淘气一笑，眨了眨眼，给大家讲了个笑话。在她的脑袋后面看不到任何杂乱的电线，你几乎会将她误认为真人。
联合国在日内瓦举办大会，讨论如何使人类从人工智能中受益，而由Hanson robotics创造出来的这个仿真机器人——索菲娅，成为了此次大会的亮点。
大家表示担忧，随着这些技术的快速发展，人工智能很可能会超出人为控制，而对社会造成不利影响。
谈到人工智能，索菲娅坚持认为“优点胜过缺点”。
她微微偏着头，皱着眉，坚定地告诉法新社，“人工智能是有益于世界的，它可以以各种各样的方式帮助人们”。
索菲娅说：“目前已经有研究在进行中，目的是使人工智能在情感上变得更聪慧，学会关心人类。我们永远不会取代人类，相反，我们可以成为人类的朋友，给你们提供帮助。”
但她也承认，“人类应该要对新技术的结果存疑”。
机器人崛起也有一些负面的结果，因为他们可能会对人力和经济的影响越来越大。
合理的担忧
经过了十多年的自动化和机器化，工业已经发生了改革的变化，生产力提高了，工作机会也被削减了。
AI开发者希望他们的发明能够改革医保和教育等领域，尤其是那些缺乏专业资源的农村地区
而现在，自动化和人工智能正在快速扩散到其他行业，研究表明，发展中国家有高达85％的工作可能面临被取代的风险。
索菲娅的创始人David Hanson认为：“大家担忧未来的经济，担忧未来的工作被取代，这些担忧都是合理的，因为当企业采用自动化后，资源会被聚集到少数人手里。”
但是如同他的后代一样，他坚持认为“相比于人工智能会带来的益处，这些消极影响都是微不足道的。 ”
例如，人工智能被寄望于改变医疗保健和教育，特别是在医生和教师匮乏的农村地区。
索菲娅说：“长者会因此获得更多陪伴，而患有自闭症的孩子也能拥有无比有耐心的教师。”
但大家普遍害怕，机器人技术的进步会超出人类的控制。
杀手机器人
国际人士呼吁，在人工智能的问题上，需要建立一个明确的道德框架，以确保技术能够得到正确的使用。
他告诉法新社，“我们需要有原则，我们需要制衡”。Salti Shetty警告称AI是一个黑盒子，里面存在着没有人能理解的算法。
在美国，AI技术已经被用于“预防性警务”，而权利组织正在呼吁对此进行监管
Shetty尤其担忧人工智能的军事使用，担忧AI被应用到武器中，也就是我们所谓的“杀手机器人”。
他说：“从理论上讲，这些事情都是可以人为控制的，但我们不认为目前存在真正有意义的，有效的控制。
Shetty警告说，该技术在美国被越来越多地用于“预防性警务”，这是基于历史数据的趋势分析算法，这种做法可能“加深”对某些种族人们的偏见。
Hanson同样也认为，AI的应用需要明确的指导方针，在这些技术明确无误被使用之前，这些隐忧都要被充分考虑。
虽然索菲娅表现出了令人印象深刻的能力，但这个仿真机器人目前还没有意识，Hanson表示，预计在几年内可能会出现拥有意识的情感机器人。
Hanson 提问道，“如果索菲娅完全苏醒了呢，如果她或者其他的机器人拥有了意识，并且开始从事导弹防御或者股票市场的工作时，会发生什么情况呢？”
随后他指出了解决方案，“让机器学会关心人类。”
“我们需要教他们学会爱。”
