机械荟萃山庄

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 861|回复: 4

chatGPT背后的数学

[复制链接]

298

主题

6739

帖子

3万

积分

论坛元老

Rank: 8Rank: 8

积分
36132
发表于 2023-2-10 23:32:31 | 显示全部楼层 |阅读模式
现在火热的chatGPT确实非常强大,如果用心就深究一下就会觉得,
最可怕之处,底层的数学深不可测。
不管是自然语言,数字,字符串等等,想要对他们进行处理分析
编程的第一步就是编码,然后矢量化,然后才是各种算法。
想想就是恐怖这个向量空间有几千亿维,第二计算非常迅速
接近秒的运算。想想一般的有限元算法一个大型结构划分成
100万单元,比如四面体,这样算下来1200万维空间,已经很
大了,但是跟这个chatGPT比起来万分之一不及,但是实际在解算
的过程中需要十几分钟甚至更长。
但是chatGPT运行动辄就能调动上百亿,上千亿的参数并进行快速
计算,这个背后一定无数的天才级别的数学家对底层数学的定理,
公式,算法进行了优化和创新。

评分

参与人数 1威望 +3 收起 理由
Architect + 3

查看全部评分

回复

使用道具 举报

1万

主题

4万

帖子

26万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
265180
发表于 2023-2-10 23:44:45 | 显示全部楼层
这个就不要想了,对于汉人,那就是黑洞,纯粹数学逻辑的归类,回答你的是一个数据库里面的选择,而怎么挑选就是算法,无能为力,这套东西,也许最终用在车辆驾驶,

点评

openAI 只介绍基本框架,训练监督、强化学习和近端策略优化微调,讲起来简单,实际很困难。 据说一次训练的费用就接近460万美元,累计花了近百亿...   发表于 2023-2-13 13:35
是的,这套东西真的可能用在自动驾驶,动态调用参数减少到千万级别,效应速度提升到毫秒级,这样完全可以应付了,人类的反应速度也就100毫秒  发表于 2023-2-10 23:50
回复 支持 反对

使用道具 举报

2

主题

4702

帖子

2万

积分

论坛元老

Rank: 8Rank: 8

积分
26290
发表于 2023-2-11 09:25:42 | 显示全部楼层
这玩意情商还挺高,真得厉害
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|小黑屋|手机版|Archiver|机械荟萃山庄 ( 辽ICP备16011317号-1 )

GMT+8, 2024-11-15 07:28 , Processed in 0.094343 second(s), 24 queries , Gzip On.

Powered by Discuz! X3.4 Licensed

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表