学而时习之第80天
今日关键词：人工智能
翻看了一下，2月11日写了一篇ChatGPT，没想到这么快，近期，OpenAI新一代通用人工智能GPT-4正式发布。
最近得到解读了这则消息，学习一下。
GPT-4需要了解的三个特点
首先，GPT-4是一个多模态大模型，可以有很多种信息输入方式。
与ChatGPT相比，在字面上看就少了chat聊天，说明GPT-4，不仅仅只会聊天，不仅仅只是文字输入，还可以支持图片，可以看图，可以通过图片下达指令。
其次，GPT-4比上一代更聪明。
如律师模拟考试，上一代的ChatGPT排名在倒数10%左右，而GPT-4的排名在前10%，也就是说几个月不见，已经从一个学渣变成学霸，且水平超过90%的人类考生。
再次，优点很多，但也有局限。
对一些刚刚发生的事实，缺少数据，就会变成一本正经地胡说八道，与上一代ChatGPT一样，没有得到解决。
据OpenAI的一位联合创始人说，它并不完美，但你也一样。
AI的快速发展的背后，到底有多少资源在支撑着呢？
从成本上看，GPT-3的单次训练超过400万美元，总成本超过1200万美元，微软超算中心构建成本更是5亿美元以上。
首先，费芯片。
GPT对芯片的需求是极大的。
据新闻报道，产能过剩的台积电突然忙起来，就是因为接到大量用于AI的芯片订单。
据介绍上一代GPT3.5，训练它需要用一种英伟达的高端GPU芯片，叫A100。
一颗A100的成本，大概8万人民币。
完成整个训练过程，大概需要3000万颗A100芯片。
记得战胜李世石的AlphaGO吗？训练它只用了176颗芯片，这增长速度可是指数级别。
如果AI再要发展，那需要的芯片可是惊人的。
其次，费能源。
AI对电的消耗非常大。
比如，ChatGPT仅仅训练一次，就要消耗90多万度电，相当于1200个中国人，一年的生活用电量。
另外仅仅是维持日常运转，每天的电费大概是5万美元。
2019年，美国马萨诸塞州大学阿默斯特分校的一个团队研究过，当时训练一个AI模型，过程中因为发电而排放的二氧化碳量，大概相当于5辆燃油车，从生产到报废，整个生命周期产生的二氧化碳总和。
再次，费人工。
AI发展，不仅需要科学家，还要包括训练AI的人，有一种工种，叫数据标注师。
在AI模型训练之初，需要大量的数据标注师。
据说2006年，AI不会识别猫，就是让人工去手工标注的。
还有普林斯顿大学的华人科学家李飞飞，为了训练一个AI，通过亚马逊的在线众包平台，在全世界167个国家，雇佣了5万人，一共标注了1500万张图片。
直到现在，AI训练依然需要大量的数据标注师，今年1月，美国《时代周刊》报道过，帮ChatGPT标注有害内容的，主要是肯尼亚人，他们平均每人每天要标注将近200段文字。
有人估算，截至2022年，全球从事数据标注的人数，已有500万，将来还会继续增加。
科技发展的背后，需要大量的硬件和软件支撑着。
另外，关于AI是如何学习的，推荐看看刘润老师的文章《这，才是AI》https://mp.weixin.qq.com/s/Xm04WduOAMTPEf1Bnx9_dA，通俗易懂地解释了AI是如何向人学习，提到需要记住的三句话：
1、今天的AI越来越厉害，是因为真的越来越像个“人”了。
2、AI想进步，也要疯狂变态地学习，要靠数据、算法和算力。
3、以后，AI不会让你失业，会用AI的人，才会让你失业。
所以，只有不断地阅读、学习，让自己的知识丰富起来，让自己变得越来越强大，才不容易被淘汰。
另外，在朋友圈看到文心一言和GPT回答问题的情况
——言身寸的学习笔记
学而时习之，吾日吾思——纯属个人胡思乱想，不可论证，如有侵权，请留言删除！
声明：以上内容皆个人交流信息，与大畜牧网平台无关。
