人工智能，芯片加工的尽头是电力

亲爱的路人幸福 · 发表于 2024-9-23 15:28:42

是的

人潮里我很好 · 发表于 2024-9-23 15:28:49

是的

小美满 · 发表于 2024-9-23 16:08:43

就是

人潮里 · 发表于 2024-9-23 16:08:56

就是

光沣霁月 · 发表于 2024-9-23 18:42:51

是的，陕西招商为何不打能源牌？

zcd · 发表于 2024-9-23 19:37:12

呵呵！

侏罗纪蚊子240 · 发表于 2024-9-23 20:31:37

本帖最后由侏罗纪蚊子240 于 2024-9-23 20:35 编辑

英伟达最新的消息是，新的训练框架电力需求减少到原来的1/350，推理框架电力需求减少到原来的1/4500，电力已经不再是瓶颈了。

想想人脑几百亿神经元，吃五谷杂粮，就可以自动运行人工智能，哪儿需要那么多电力？

长安不长偏居中 · 发表于 2024-9-23 20:51:00

侏罗纪蚊子240 发表于 2024-9-23 20:31
英伟达最新的消息是，新的训练框架电力需求减少到原来的1/350，推理框架电力需求减少到原来的1/4500，电力 ...

所以绝大多数人是笨蛋，包括你。
人脑之所以难全部开发，大概就是因为支持能量不足与散热难解决。

英伟达新一代芯片并没有不耗电。

英伟达的新一代芯片在性能上有了显著提升，但同时也伴随着更高的能耗。例如，英伟达H100 AI芯片的峰值功耗高达700瓦，每年每块的耗电量相当可观。尽管有报道称，新一代的英伟达芯片速度是上一代的30倍，但耗电量只有上一代的1/25，这表明在追求高性能的同时，英伟达也在努力降低能耗1。此外，英伟达正在开发热水散热系统，并声称这将使耗电量减少28%，这表明英伟达在技术和工程上进行了创新，以减少其产品的能耗2。

然而，也有数据显示，英伟达H100 AI芯片的总耗电量将超过欧洲小国的耗电量，这表明尽管有技术上的进步，英伟达新一代芯片的能耗仍然是一个不可忽视的问题34。预计随着全球ESG意识的提升，以及云端服务业者加速建设AI服务器，液冷散热方案的渗透率预计将在2025年超过20%，这可能有助于进一步降低能耗5。

综上所述，英伟达新一代芯片在性能上有显著提升，但同时也面临着如何有效管理能耗的挑战。英伟达正在通过技术创新和工程优化来降低能耗，但新一代芯片的能耗问题仍然需要关注和进一步解决。

三哥lqt · 发表于 2024-9-23 21:04:33

就那自然环境和营商环境

三哥lqt · 发表于 2024-9-23 21:04:43

谁来

长安不长偏居中 · 发表于 2024-9-23 21:13:31

慧通大模型。
该模型是西安电子科技大学落实教育部“人工智能大模型应用示范行动（LEAD）”，坚持集成化、智能化、国际化的“3I”理念，依托西电教育数字化优势，自主研发的高等教育大模型。

新鲜出炉的西安本地产
陕西把使用电费给免了，让它先没有生存之忧虑，然后再快速进化出第二代，第三代，…第N代
在这个领域冠绝全中国

长安不长偏居中 · 发表于 2024-9-23 21:16:38

西电新闻网讯（通讯员杨肖赵大虎）9月21日上午，在教育部高等学校教学信息化与教学方法创新指导委员会、教育部高等学校电子信息类专业教学指导委员会指导下，由西安电子科技大学主办、中国电子教育学会承办的第三届智能教育大会在西安曲江国际会议中心拉开帷幕。期间，与会嘉宾共同见证了西安电子科技大学自研的“慧通大模型”正式发布。

西安电子科技大学信息化推进办公室主任苗启广教授介绍了学校计算机科学与技术学院大数据与视觉智能研究所自主研发的电子信息类学科大模型——慧通大模型。该模型是西安电子科技大学落实教育部“人工智能大模型应用示范行动（LEAD）”，坚持集成化、智能化、国际化的“3I”理念，依托西电教育数字化优势，自主研发的高等教育大模型。苗启广阐述了生成式人工智能技术在高等教育应用的国家政策背景，介绍了慧通大模型数据、硬件、算法的前期准备，并对大模型具体功能和应用进行介绍，展望了慧通大模型的未来规划。模型覆盖了高校教、学、管、评等业务范围，为高等学校人才培养提供智能化便利。

在全场嘉宾的见证下，西安电子科技大学校长张新亮教授，教育部高等学校教学信息化与教学方法创新指导委员会主任、武汉理工大学校长杨宗凯教授，教育部高等教育司课程教材与实验室处刘永强处长，陕西省教育厅教育信息化处李享阳处长，西安电子科技大学副校长王泉教授，全国高等学校教学研究中心办公室张龙主任，陕西省计算机学会理事长周兴社教授，西安电子科技大学信息化推进办公室主任苗启广教授共同上台点亮“慧通大模型”。

据悉，“慧通大模型”取得了4大应用实效，即定位准确的学科答疑、智能评价提升教学管理、学情分析促进因材施教、智能客服只跑一次。试运行以来，师生使用近20万人次，共服务超过90万轮次对话问答，包含283门电子信息类学科课程、12个部门行政办事指南、487份学校规章制度，广泛服务于教师上课、学生答疑、教学评价和管理咨询等方面。

下一步，西安电子科技大学将面向学校教育教学、教育管理和教育服务，持续优化“慧通大模型”，打造“大模型+教育”新生态，为学校高质量发展提供新动力。

蜂鸟 · 发表于 2024-9-23 23:07:53

电力

一生无悔， · 发表于 2024-9-24 01:24:52

看看

[讨论] 人工智能，芯片加工的尽头是电力

电梯直达
评论28

回复

友情链接

[讨论] 人工智能，芯片加工的尽头是电力

电梯直达 评论28

回复

友情链接

电梯直达
评论28