联系我们
- 地 址:北京市海淀区北四环西路9号 ,主 营:人脸识别,活体检测,身份证识别,银行卡识别,名片识别,车牌识别,OCR识别等及智能识别技术。
- 电 话:13146317170 廖经理
- 传 真:
- 邮 箱:398017534@qq.com
如何让人工智能AI解释自身行为?
如何让人工智能AI解释自身行为?
人工智能正渗透到我们现代生活的每一个角落,人工智能可以在Facebook上给你发布的图片上的冤家贴上名字的标签,或许帮你选择在Instagram上看到的图片,而材料科学家和NASA研讨人员也末尾运用人工智能来协助发现新科学和太空探求。
现代人工智能仍是一种新事物,在过去的5年,大型科技公司关于人工智能的投资和研讨才刚刚末尾。而在此之前,已有几十年历史的关于人工智能的实践最终在2012年失掉了证明。受人脑的启示,一集团工神经网络依赖于“神经元”之间的不可胜数个宏大的衔接,或许是小范围一串串的数学计算,这类似于大脑中神经元的衔接系统。但这种软件架构给我们带来了一种新的权衡:由于数百万个衔接的变化如此复杂和宏大,研讨人员无法准确地确定正在发作的衔接结果,他们只会失掉一个输出的结果。
“随着机器学习在社会变得越来越普遍而且风险越来越高,人们末尾看法到我们不能把这些系统当作可靠和公正的保险箱,”Hanna?Wallach在一封电子邮件中告诉Quartz,他是微软的初级研讨员,也是会议的发言人。“我们需求了解它们内部发作了什麼,以及它们是如何被运用的。”
执行关键义务的人工智能
在美国国度航空航天局的喷气推进实验室中,人工智能可以让火星探测器在探求未知行星表面时可以半自主地运转。人工智能还被用于中止梳理探测器在传回地球时拍摄的数千张照片的进程中。
Kiri Wagstaff是JPL的一名人工智能研讨人员和发言人,他说,由于每一个决议都带来了庞大的风险,在运用人工智能之前,我们需求完全理解它的每个决议。
“假设在火星轨道上有一艘宇宙飞船,这代表说它就在2亿英里之外,并且需求数亿美元的费用,甚至可以是十亿美元。假设出了什麼成果,一切都难以拯救了。”Wagstaff说:“不花费大批的金钱的话是没无方法修复、访问、或许交流这些东西的。因此,假设我们想让机器学习发扬作用,那麼让机器执行这些义务的人需求了解它需求做什麼,爲何要去做这个行爲,由于假设机器人不知道自己爲何要做出选择,人们爲何会信任它来控制他们昂贵的火星探测器或轨道飞行器呢?”
Wagstaff正努力于经过NASA的各种航天器在太空中捕捉到的图像建造人工智能对它们中止分类,由于这些图片的数量可以抵达数百万,所以假设人工智能在这庞大的数据库中识别出幽默的照片,那麼我们可以节省很多时间来找到我们想要看到的这些照片——但前提是人工智能知道一个“幽默”的图像是什麼样的。
对Wagstaf而言,他觉得理解人工智能的目的是完成特定算法的关键。假设执行机器学习进程中在如何运用图像方面存在计算错误,那就意味着数据转移的义务本钱价值数百万美元以上。
Wagstaff说:“当你看到一个电脑说‘这很幽默,让我看一看这张图片’时,你就会处于不确定的形状,由于你自己没有残缺的看过这百万张照片,你不知道这些哪些是幽默的,或许爲何这是幽默的。”“图片幽默是由于它的颜色,由于它的外形,或许由于场景中物体的空间陈列顺序吗?”
隐藏的知识
2007年,康奈尔大学的人工智能教授安德鲁·戈登·威尔逊与一个团队协作开发了一种新型PET扫描机。由于某些粒子在这台机器上与像其他普通的粒子表现的不一样,他的义务是追踪某个粒子穿过一盒氙气的进程。
他的顾问建议尝试运用神经网络来中止监测,而神经网络在事前还是一种比较模糊的概念。使用这种技术,威尔逊可以使用粒子发出的光将其定位在该盒氙气中。
当他失掉了他想要的答案之后,威尔逊表示使用该算法用来理解光如何表示粒子位置的内部规则之后,可以将会爲接上去的研讨开辟了一条新的路途。
威尔逊说:“在某种程度上,一个模型是我们观察得出的实践,我们不只可以使用模型中止预测,还可以更好地理解爲何这种预测方向是正确的,以及这些自然进程是如何运作的。”
解读才干
不过微软研讨人员Wallach说,要在解释性言语才干上开辟新范围,最大的应战之一就是怎样复杂地定义它。
解读才干能否意味着人工智能专家知道爲何Facebook数据的算法会向每集团展示一个特定的帖子,或许说,这是一种能让你了解自己的方式?运用人工智能治疗举荐系统的医生能否需求知道爲何采用特定的建议治疗方案,或许说我们还需求在医院里创建另一个角色——人工智能监测人员?
Wallach称解读才干是一种潜在的想象:一种无法觉察的东西,但却被测试了真实的人们如何正确或错误地运用人工智能系统。这不只仅是提升算法观察以及引擎运转的方式。
了解一种算法并不只仅是爲了防止局限性或确保你的火星漫游者不会从太空悬崖上掉上去,而是可以可以协助人工智能研讨人员树立更精确的系统。
优步公司的Yosinski说:“假设你不知道这个系统不义务的缘由,要提高它的功用是相当困难的。”“通常情况下,假设你知道它爲何会义务失败的话,最后肯定会找到一个处置方案。”
爲了弄清楚其中一种算法是如何思索的,谷歌正试图对每次经过算法处置图像时中止的数百万次计算进程中止层层挑选研讨。在NIPS大会上宣布的一篇论文中,经过观察树皮和鸟的互动联络,谷歌研讨人员Maithra Raghu展示了她修复的之前有成果的哑铃与机器人手臂之间的联络。
当人工智能研讨鸟类的图像时,我们可以观察到人工智能网络中哪些神经元被激活,而Raghu可以经过这些数据确定哪些神经元专注于鸟的叫声或许集中在树皮上,最后再把树皮神经元关掉看看会有什麼结果。取得这一成功意味着虽然人工智能是一个复杂的产物,但将神经网络的义务转化爲人类所理解的东西并非是不可以的事情。
Wagstaff说:“在学校里,我们要求先生用自己的理解来证明他们学到的东西,并展示这些来证明他们的理解是正确的。”“如今我们希望机器也能做异常的事情。”
上一条:未来人工智能将大城市带来改变
下一条:手机端工商执照OCR识别