在从加利福尼亚一所高中毕业后◈ღ,Jeffrey Wang于2021年本科入学哈佛海洋之神在线登录◈ღ,专业为数学和计算机科学◈ღ,同时辅修了英语◈ღ。
从今年9月开始◈ღ,他就已经在为OpenAI工作◈ღ,也许是这几个月的经历◈ღ,让他最终决定现在加入OpenAI◈ღ。
而且同一时间◈ღ,还兼顾着工程与应用科学学院研究员一职海洋之神在线登录◈ღ,主要方向为机器学习模型的鲁棒性和隐私性◈ღ。
期间担任共同一作的两篇论文还分别亮相了NeurIPS SoLar(2023)和ICML(2024)研讨会海洋之神在线登录◈ღ。
简单理解◈ღ,这篇论文提出了MoPe(Model Perturbations)这种新检测工具◈ღ,它能帮助人们判断某个特定的文本是否被用来训练过大语言模型沉香豌番外◈ღ。
这个工具通过在模型参数中加入一些扰动(噪声)◈ღ,然后观察这种扰动对模型预测的影响来工作◈ღ。研究发现◈ღ,MoPe比之前的方法更有效(从70M到12B参数范围内)◈ღ,可以更准确地模拟出模型参数变化对预测的影响◈ღ。
另外研究还发现◈ღ,仅仅看一个训练点的损失值是不够的沉香豌番外◈ღ,因为有些损失值普通的点也能被MoPe成功恢复海洋之神在线登录◈ღ,这挑战了之前一些依赖损失值来判断信息是否被模型记住的研究◈ღ。
作者们提出◈ღ,无偏见的文本嵌入对于生成平衡的图像分布是必要的沉香豌番外海洋之神在线登录◈ღ,并且发现偏见的多模态嵌入(如CLIP)会导致评估图像与文本提示对齐度时的得分降低沉香豌番外◈ღ,从而无意中奖励了不公平的行为海洋之神在线登录◈ღ。
除此之外◈ღ,高中阶段的Jeffrey Wang就因“开发统计方法来探测3D基因组结构变化”而获得国家级奖项海洋之神在线登录◈ღ。
2021年沉香豌番外沉香豌番外◈ღ,他决赛入围了(前40名)再生元科学天才奖(Regeneron Science Talent Search, STS)◈ღ,这是美国历史最悠久◈ღ、最负盛名的高中生研究竞赛◈ღ,有美国“少年诺贝尔奖”之称◈ღ。
这项研究是他和Abhijit Chakraborty博士合作两年的成果◈ღ,前者在周末和休息时间跑到对方实验室实习观摩◈ღ。
他们研究了染色体中DNA的结构◈ღ。由于许多发育和疾病过程◈ღ,包括癌症◈ღ,都是由DNA三维排列的变化引起的◈ღ,因此Jeffrey创建了一个计算机应用程序◈ღ,用于识别和排列不同细胞系基因组中这种排列的显著差异◈ღ。
后来◈ღ,他还将这一模型公开了(现已被50多个实验室使用)◈ღ,以便更多人用于发现新的路径◈ღ、调节机制和癌症靶点沉香豌番外◈ღ。
早在2019年◈ღ,他就签约了《The Adroit Journal》◈ღ,这家位于纽约成立于2010年的杂志社◈ღ,主要展示全球新兴作家的诗歌沉香豌番外◈ღ、散文和艺术◈ღ,其作品收录率低于1%◈ღ。
接受了文学艺术熏陶后◈ღ,他又马不停蹄地签约了PBH Network长篇历史作家◈ღ,其多个联合作品的点击量超过25万次◈ღ。
一直到现在◈ღ,他还在美国知名在线问答平台Quora分享历史◈ღ、科学和统计方面的故事◈ღ,其作品总计超过600万次浏览◈ღ。
要知道类似消息在OpenAI也不算少见◈ღ,前一阵还招了一个高中就辍学的瑞典小哥海洋之神在线登录◈ღ,入职Sora团队专攻AGI◈ღ。
甚至OpenAI CEO奥特曼◈ღ,也是19岁从斯坦福大学计算机专业退学◈ღ,创立了自己的第一家公司◈ღ。诺贝尔奖◈ღ,马克思主义◈ღ,海洋之神590线路检测中心◈ღ,共产主义◈ღ,海洋之神590◈ღ,海洋之神590◈ღ,