pk10投注

做最好的博客模板

AI到底是如何做决策的?

  最近一段时间,AI(人工智能)被炒得神乎其神,似乎它无所不能。但事▷•●实上,据社交网站“脸谱”披露,要想欺骗AI把某个不存在的东西当作真实存在,比你想象的要容易得多。

  譬如,在一张高清晰度的图片中,随机地降低某些地方的像素。这么一点微不足道的变化,人眼根本难以觉察,也不会影响我们的判断;但AI却能◆◁•觉察出来其中的差异,并因此严重干扰了判断,比如说把图中的猫误认作了狗。

  再比如,据说现在谷歌的语音识别AI功能已经非常强大,能一边听语音,一边笔录成文字。但一位AI工程师略施小计,就把★◇▽▼•它给耍弄了:他在语音文件中掺入少量数码噪声,这点噪声对于我们是不会有什么影响的,但让谷歌的AI去识别,结果却是笔录下来的文字已跟原意大不一样。

  这些低级错误揭示出当前AI的一个重大缺陷:●太拘泥于细节,“只见树木,不见森林”,让无谓的细节影响了对整体的判断。如果这个弱点被黑客利用,后果将不堪设想。他们将能够操纵无人驾驶汽车狂奔,无视红绿灯;或者让犯罪嫌疑人轻易躲过AI控制的监控摄像头。

  为了解决这个问题,这就需要我们先去了解AI是如何自我学▲●…△习,如何做决策的,但这一直是个难题。因为AI在自我学习过程中,经过海量的数据训练之后,会自创一△▪▲□△套决策规则,但它最后创立的规则到底是什▲★-●么,这对于AI的设计者有时候都是一个谜。这一点其实跟人也是相似的。譬如,老师在课堂上向你传授知识,但你是如何把这些知识点组织起来的,他也不见得清楚。

  最近,美国布朗大学的克里斯·格林和他的同事开发了一个系统,有望突破这个困难。

  这个系统能够分析,当AI对一个图像做判断时,它是根据图像的哪一部分做出判断的;与此类似的,对于给文件自动归档的AI,这个系统也能够分析,AI是根据文档里的哪个词对文档进行归类的。

  为开发这个工具,研究小组用数码噪声依次替换图片的一部分(相当于给这部分图片打马赛克),以便看看这样替换之后,是否会对AI的判断产生影响。如果更换部分的图片改变了AI最终的判断,那说明图片的这块区域可能正是影响AI判断的关键所在。

  格林在给图片分类的一个AI上测试了他的系统。这个AI被训练把图片分成10个类,包括飞机、鸟、鹿和马等。格林的系统能够暗中查看,当AI对图片进行分类时,什么是它所倚重的,什么是被它忽略不计的。

  结果表明,AI先是将图片上的物体分解成不同的元素,然后搜索图片中的每▲=○▼一个元素以确定把图片归到哪一类。

  举个例子。当AI观察马的◁☆●•○△图片时,它首先关注的是☆△◆▲■其腿部,然后,寻找它的头部。在观察鹿的图片时,它也采用类似的办法,不过在关注了鹿的腿部之后,它接下去搜寻的不是头,而是鹿角,因为鹿角是最能把鹿跟其他动物区别开来的,所以鹿角被置于优先的地位。至于图片的其他地方,则被AI完全忽略了。

  从这里我们看出,AI做决策的过程迥异于我们人类。我们是不会如此拘泥于局部的。面对一张鹿的图,即使把它的角打上马赛克,我们也还是可以根据分叉的蹄子认出鹿来的,但对于“死板”的AI,它很可能就把它认作驴了。

  格林的软件可以帮助我们测试现有的AI,以便确保它们下判断时,关注的是我们认为重要的东西,这对于改进AI有重要★-●=•▽的价值。

  本文为自媒体、作者等在百度知道日报上传并发布,仅代表作者观点,不代表百度知道日报的观点或立场,知道日报仅提供信息发布平台。合作及供稿请联系。

  冥想被誉为从癌症到战争无所不治的灵丹妙药,而对它疗效的研究是否符合科学标准呢?

  前面我们提到过 吴王阖闾得到孙武攻破楚国首都 华丽变身为春秋霸主四代目 大概是当上霸主太顺风顺水 加上在楚国搞出太多暴行 阖闾耗光了人生所有的好运 终于有件倒霉事 要摊在他头上

  朝鲜半岛是当今世界上少数长期保持紧张局势的地区。朝韩分别有2000多万和5000多万人口,却分别拥有近100万和50多万正规军,按人口比例计算,能在世界上排名前列

  《时间◆●△▼●机器》中非常隐晦的告诉我们,过去并不能改变,因为已经发生,无论是根据因○▲-•■□果还是热力学中熵的概念,都是一个不可能更改的事实,但未来却可以,因为未来尚未发生

  据说古代中国是讲粤语的。用粤语读唐诗,比普通话更有韵味——后者▪•★已◇•■★▼经被满语等改造的偏离了古音。同样的版本还有闽南语等。真的是这样吗?

  当今的香港经济被学者们称为“后工业时代”。这是一个甚至先于内地改革开放就已经出现苗头的时代

  小到物品保护套,大到我们学过的知识,积累的财富,每一样都在为我们的生活套上一个安全的套子。

  每次月经之前的几天,女性容易受到“经前期综合征”(PMS)的困扰,特别容易发飙或者掉眼泪,配偶、子女、同事谁挨着谁倒霉,弄不好连命都丢了。

  首先我们关心一个问题,蚯蚓切成两段还能活吗?如果能的话切成三段能活吗?四段能活吗?假如蚯蚓通过了这些考验,那么活下来的几个个体中各自又是什么关系?见了面又会如何?

  当今世界职业和奥运会级别的运动竞技比赛,造就了更强壮、更快、更壮的运▼▼▽●▽●动员,他们一次一次打破了前人留下的纪录,让世人惊讶!

  一个致力于传播主流科学信息、揭露伪科学骗局、推广理性科学精神的科普平台。

  知识、见识、见闻,给你最好的饭桌谈资,知道分子的进修基地。官方微信号idxgh201...

  龙□◁源利用最新的互联网和数字化◇=△▲手段提升中国期刊的竞争力,优质版权内容的聚▼▲合平台

pk10投注