好看吧

手机浏览器扫描二维码访问

第253章 ai革命(第1页)

生成式对抗网络解决这个问题的思路跟以前的方法不太一样,生成式对抗网络是同时学习两个神经网络:一个神经网络生成图像,另外一个神经网络给图像进行分类,区分真实的图像和生成的图像。

在生成式对抗网络里面,第一个神经网络也就是生成式神经网络,生成式对抗网络的目的是希望生成的图像非常像自然界的真实图像,这样的话,那后面的第二个网络,也就是那个分类器没办法区分真实世界的图像和生成的图像;而第二个神经网络,也就是分类器,生成式对抗网络的目的是希望能够正确的把生成的图像也就是假的图像和真实的自然界图像能够区分开。

这两个神经网络的目的其实是不一样的,他们一起进行训练,就可以得到一个很好的生成式神经网络。

生成式对抗网络最初提出的时候,主要是对于图像的生成。

章杉论文里提出来的显然是将该方法应用到各个不同的问题上。

不过论文的着重点还是章杉针对如何从无标注的数据进行学习!

在文中他提出了一个新思路,叫做对偶学习。

对偶学习的思路和前面生成式对抗学习会非常不一样。

章杉发现很多人工智能的任务在结构上有对偶属性。

在机器翻译里面,章杉把中文翻译成英文,这是一个任务,但是章杉同样也需要把英文翻译成中文,这是一个对偶的任务。

这种原任务和对偶任务之间,他们的输入和输出正好是反着来的。

原本章杉还因为论文是系统弄得而心存愧疚,但现在看来这论文完全是照着他的思路去写的。

因为之前对多门语言的卓越性。

章杉自己本人来写这个论文的话,最可能想到的涉及对偶属性的应用也是翻译工作。

不过对偶工作不止于此。

在语音处理里面,语音识别是把语音转化成文字,语音合成是把文字转化成语音,也是互为对偶的两个任务。

在图像理解里面,看图说话,也就是给一张图生成一句描述性的语句,生成式对抗网络的对偶任务是给一句话生成一张图,这两个任务一个是从图像到文本,另外一个是从文本到图像。

在对话系统里面,回答问题和问题生成也是互为对偶的两个问题,前者是给定问题生成答案,后者是给定答案生成问题。

在搜索引擎里面,给定检索词返回相关文档和给定文档或者广告返回关键词也是互为对偶的问题:搜索引擎最主要的任务是针对用户提交的检索词匹配一些文档,返回最相关的文档;当广告商提交一个广告之后,广告平台需要给他推荐一些关健词使得他的广告在用户搜索这些词能够展现出来被用户点击。

对偶学习试图把这种结构的对偶属性应用在机器学习里。

其基本思想比较简单,章杉以机器翻译为例子来说明。

当我们想把一个中文句子翻译成英文,可以先用一个中文到英文的翻译模型,把这个句子翻译成英文的句子,因为没有英文的标注,所以不知道这个英文的翻译是好还是坏以及有多好多坏。

章杉再利用从英文到中文的翻译模型,把这个英文的句子翻译成中文的句子,这样一来,章杉就得到了一个新的中文句子。

整个过程包含了正向翻译和反向翻译互为对偶的两个步骤。

然后章杉比较原始中文的句子和后来得到的中文句子,如果两个翻译模型都很好的话,这两个中文的句子应该比较相似,如果两个模型不好或者有一个模型不好的话,得到的两个中文句子就不相似。

因此章杉可以通过这种对偶过程从无标注的数据获得反馈信息,知道章杉的模型工作的好还是不好,进而根据这些反馈信息来训练更新正向反向模型,从而达到从无标注数据学习的目的。

章杉在机器翻译里面做了一些实验,发现通过对偶学习的过程,章杉只需要用10%标注的数据(大概100万英法双语句对),再加上很多没有标注的数据,达到用100%标注数据(1200万英法双语句对)训练的模型的准确度。

一千万个训练语料标注的费用差不多2200万美元,如果章杉能把标注的人工费用从2200万美元降到200万美元,这会是一个非常好的结果,能够大大降低公司运营成本提高运营效率。

很多问题以前是因为受限于没有标注的数据,没有办法用深度学习技术。

现在章杉能够从无标注的数据进行学习,那么很多应用很多问题里面都可以应用深度学习技术。

论文到这里已经很牛了!

但仅仅如此吗~

热门小说推荐
异界大纨绔

异界大纨绔

祖乘风,一位医科研究生穿越到了神魔大陆一个教条古板的书呆子身上。书呆子满口的之乎者也,仁义礼德,却连杀鸡都怕。祖乘风放荡不羁,嬉笑怒骂,唯我唯心。会有怎样的故...

允许甜甜的她放肆

允许甜甜的她放肆

前世姜姝被渣男利用抑郁而亡,白祁悲痛欲绝跟她共赴黄泉。重回1999,看到她不仅要手撕渣男,更要抱紧冷漠少年的大腿,做他的小甜甜。都传他偏执乖戾,心狠手辣,可是不知道从什么时候起,他身边出现了一个娇小的女孩。顿时,无数引来无数名媛豪门羡慕嫉妒。不就一个乡下来的土包子,凭什么?就凭我宠了她十年。从此,整个临川市都知道,白祁有个捧在手里,含在嘴里的小青梅,除了宠还是宠。...

重生之鉴宝大师

重生之鉴宝大师

带着特异能力重生到二十年前,你会选择什么?金钱?美女?权力?写几首歌捧几个美女天后出来,拍几部电影流水线制作明星,投几个潜力公司赚大钱,淘几个古董宝贝也有火眼金睛。这是一个牛笔到爆的故事!Tags重生之鉴宝大师罗晓重生之鉴宝大师txt全集下载重生之鉴宝大师无弹窗重生之鉴宝大师最新章节重生之鉴宝大师txt全文下载重生之鉴宝大师全文阅读...

校草的哑公主

校草的哑公主

李玥从小对音乐情有独钟,可上天却偏偏和她做对。7岁那年,一桩意外事件改变了她的命运。这究竟是人为还是意外?原本想要在高中平凡地读完的她偏偏遇上三位帅得掉渣的校草,第一天就打破她高中生活的宁静。因为赌玩脑筋急转弯,输的人要做对方的奴隶,她如此地幸运中枪了,从此她的悲惨生活来了,就欺负她不会说话是吧,我李玥也不是好欺负的。静看哑巴公主如何叫嚣三位校草,残...

悍匪毒妻:邪王独宠掌中妃

悍匪毒妻:邪王独宠掌中妃

书海阁小说网免费提供作者默上春秋的经典小说悍匪毒妻邪王独宠掌中妃最新章节全文阅读服务本站更新及时无弹窗广告欢迎光临wwwshgtw观看小说替嫁进京城第一高门,夫君身娇体弱,没有权势?她大手一挥,土匪怕过谁,以后我罩着你!谁知这病娇美男白切黑,翻云覆雨无人能敌。沈清张开手臂护他在身后谁都不许欺负我相公!众人瑟瑟发抖快把你相公带走,太吓人了。后来替嫁的事情暴露,她被千夫所指。忽有圣旨降下,才知她是遗落民间的公主。为她请来圣旨的病娇美男笑着呢喃以后为夫全仰仗公主娘子了。...

苏念苏曦

苏念苏曦

完整版小说苏念苏曦王者荣耀由啵啵奶茶所编写的都市生活类小说,这本小说的主角是苏念苏曦,书中主要讲述了又名王者苏念苏曦姐,我才八岁,你让我打kpl姐姐的操作好下饭江城。御景华庭中档小区。405号的副卧室中。八岁的苏念发出不符合自己年龄的叹气声。唉,真是一个能打的都没有...

每日热搜小说推荐