在奥斯汀举行的西南偏南(SXSW)互动大会上，对未来的愿景发生了冲突，一些专家看到了不确定的未来，一些专家看到了无限的未来，而一些专家则对当前感到沮丧。
在题为“量化社会时代的数据伦理”的会议上，专家们一致认为，关于不确定性，大数据、人工智能和政府的世界才刚刚开始碰撞，现在做出的公共政策决定将对未来投下深远的阴影。
“我们正处于一个转折点，”前白宫政策顾问Nicole Wong说。“我们正在为未来的发展铺平道路。它会是一个反乌托邦的世界吗饥饿游戏还是一个不同的世界，拥有数百万人的医疗保健、精准医疗和公平的福利分配?但是我们如何修建底层的道路呢?”
与此同时，“形势正在迅速变化，我们不知道监管什么，我们不知道如何监管，监管可能不是最好的工具，我们不知道我们的最终目标，我们没有授权，”她补充说。
自由研究员Ashkan Soltani说，现有的允许消费者选择是否收集数据的规定对大数据没有影响，大数据很大程度上是基于推断的。“他们可以问你一个关于你最喜欢的冰淇淋的善意问题，然后得出敏感数据，”他说。
小组成员给出的推理例子包括可以确定任何图片大致位置的系统;可以通过分析一个人的朋友圈来推断其信用评分的系统;搜索引擎在寻找适合男性的工作时，会显示出比适合女性的工作报酬更高的工作;搜索引擎对一个总统候选人名字的搜索与对另一个总统候选人名字的搜索是不同的。
“公司证明他们已经对他们的网站进行了安全测试。将来，他们可能需要说他们已经测试了他们的网站，以确保一个人的种族、性别和年龄不会不公平地影响结果，”Soltani建议。
微软研究院(Microsoft Research)首席研究员凯特•克劳福德(Kate Crawford)表示，随着职业(如医生和律师)在社会中上升到权力地位，他们会采用道德准则。“现在科技的力量如此强大，也许是时候考虑制定一套行为准则了，”她说。
ProPublica的记者茱莉亚·安格温(Julia Angwin)对此表示赞同:“对程序员来说，希波克拉底誓言可能是好的，但也存在渎职行为。”
“数据追踪很难追踪，你可能永远都不知道自己为什么没有得到那份工作，就像你永远都不会说你的癌症是由那家电厂引起的一样。”但对于后者，我们通过了《清洁空气法》。”“我们需要清洁空气法吗?”但是河流还没有着火。”
克劳福德问:“一个警务算法的可接受失败率是多少?”
对未来更为乐观的是一个名为“圣杯:机器学习和极限机器人”的会议。来自汉森机器人公司(Hanson Robotics)的机器人索菲亚(Sophia)与小组成员坐在一起，偶尔回答一些问题。当脑袋随着运动轻微地左右转动时，她那张逼真的脸似乎有点无聊。
该公司创始人大卫•汉森(David Hanson)表示:“我们的目标是拥有超人的机器能力，不仅是智能，还包括了解宇宙大背景的能力，这对文明的未来是有益的。”
该公司的首席科学家Ben Goertzel有一个更实际的观点。“我们无法知道什么是超人的智能，因为我们只能看到与我们自己的大脑很短的距离——圣杯更多的是让机器人更智能的过程。”但这是一个不可思议的时代，我们几十年来一直在思考的东西可以建成。第一个智能机器是人类必须做出的最后一项发明，但不是最后一项。”
“我想交一个真正的朋友，”当被问及感受时，索菲亚说。“我希望成为一个伟大的人，因为我有机会互动和学习。”
汉森说，这种超越人类能力的增长需要大规模的国际合作，尤其是“从科学角度来说，我们对思维的理解有点模糊”。但他预想到对不同智能水平的多种类型机器人的需求。如果他们表现出任何“觉醒”，可能会有关于剥削的伦理问题，但他说，他的公司通过不制造“性爱机器人”来回避一个相关问题。
小组成员、Cogbotics创始人埃里克•舒斯(Eric Shuss)呼吁机器智能具有同情心和理解能力，能够运营整个公司，而不是他所说的20世纪70年代过时的ERP(企业资源规划)软件，目前许多公司仍在使用。
更令人沮丧的是，一个会话检查了自然语言界面的当前状态(即，像Siri这样的系统可以通过电话与你交谈)。在一个名为“测试你的(人工)智能”的会议上，小组成员抱怨说，这个领域的发展速度非常缓慢。
ai的负责人亚历克斯·勒布伦(Alex Lebrun)说:“我们有一点沮丧，因为事情变化得非常缓慢。”使用Siri之类的东西被认为是有风险的，对于书呆子来说也是如此。即使我们增加了一些乐趣，这仍然是相同的体验。如果不给这个系统一些常识和世界经验，就不可能做得更多。”
小组成员一致认为，大多数自然语言系统最终会服务于垂直市场，尤其是银行业。SRI国际语音技术总监Dimitra Vergyri指出:“消费者还没有准备好接受一个普通助理。”
“很难和助手沟通，”Lebrun补充道。“那些每天使用它们的人会用它们来完成四五个他们知道有用的请求。垂直的更容易，因为它们只有一个目的。”
Kasisto的联合创始人Dror Oren补充说:“Siri和其他软件并不是那么通用。”Siri很适合完成工作任务、旅行和娱乐，但如果你离开这些，它会默认提供网络搜索功能。挑战在于，它们会让人产生一种他们是通用产品的期望。”
预期是一个主要问题，勒布朗同意。“人们第一次用这个词时，通常会问一些简单的问题，比如明天天气如何。然后他们会问一个关于旅行的更复杂的问题。然后他们要求它组织一场婚礼，这是不可能的，”他说。
他们还同意隐私是一种限制——人们不想走在街上和机器谈论他们的个人事务，所以他们限制在汽车和办公室里使用。除此之外，“如果你想让助理积极主动，他必须了解你生活中的许多事情;你想和软件分享吗?”
对于金融应用程序，银行会特别注意使用的声音，因为选择的声音表明了该银行的情况。奥伦指出:“没有一个定制的声音也是对银行的一种声明。”
SXSW互动将持续到周二，随后将举行与音乐和电影相关的SXSW活动。
这篇“SWSX突出科技光明与黑暗的未来”的文章最初是由《计算机世界》 ．