返回首页  设为首页  加入收藏  今天是:
网站首页自媒体网红排名网红八卦网红名字网红零食网红收入娱乐八卦网红主播网红明星
相关文章
 仅用5M数据超过OpenAI?快手…
 快手员工数据泄露事件:引发…
 快手员工泄露公司核心机密半…
 一高校发生火灾多名学生送医
 湖北省近万名学生参加!附考…
 沙县又有多名学生被骗!对方…
 盘点清远临期食品一手货源渠…
 馋嘴零拾零食工厂致力打造高…
 食尚网大学生专属零食广场
 抖音电商去年广告收入4000亿…
 抖音老板成中国首富农村网红…
 抖音人气榜的第一名能拿多少…
 内娱最干净的10位女明星不傍…
 盘点5个中国最“臭名昭著”的…
 三位拍过“片”而红的女明星…
 与辉同行冲进前三、东方甄选…
 盘点steam上玩不腻的10款单机…
 2021直播带货排名前十名_头条…
 看见中国丨“重庆也太适合拍…
 安徽梦幻仙境揭秘:网红景点…
 重庆网红景点真相大揭秘:李…
 自媒体生存之“道”:有规有…
 做自媒体的机会来啦!深圳运…
 垂直化“微媒”塑造主流媒体…
 2024年12月01日B
 青岛食品:加大研发投入 打造…
 主播带货哪家强?与辉同行第…
 徐乾源大师的智慧:八卦福·…
 八卦福·门牌的历史渊源及现…
 八卦福·门牌:将传统文化融…
 女生因名字“可爱”走红老师…
 头像非常好听的古风江湖气息…
 逐“绿”前行 持续擦亮园区生…
 平邑旅游景点有哪些欧贝拉雪…
 皇妃嘴休闲零食:用多元传递…
 别买也别吃!被人民日报叫停…
 mcn机构怎么抽达人佣金_快手…
 快手的“老铁病”
 《报告》显示:去年1500万人…
 杨洋空窗、王楚然新动态娱乐…
 明星圈最新八卦:口红、私人…
 小八卦!杨幂邓超虞书欣阚清…
 网络主播如何防范违约跳槽的…
 斗鱼Q2财报解析:1032亿营收…
 6元抽5万办卡抽5万游戏直播抽…
 千万网红吴迪直播虚假宣传事…
 拿国难开玩笑突破国人的底线…
 生活方式蕴藏商机INS新乐园、…
 澳门蓝月亮精选大全
 《一个人看的日本动漫在线观…
专题栏目
网络
您现在的位置: 网红资讯网 >> 网红八卦 >> 正文
高级搜索
仅用5M数据超过OpenAI?快手最新Code Embedding模型OASIS(绿洲)发布
作者:佚名 文章来源:本站原创 点击数: 更新时间:2024/12/4 7:26:36 | 【字体:

  惟妙惟肖空城旧梦随着代码库规模的持续扩大,开发者越来越依赖高效的代码检索系统来提升开发效率。传统的关键词匹配方法已经无法满足现代软件开发的需求。代码表征(Code Embedding)技术通过将代码片段转化为向量表示,使机器能够深入理解代码语义,从而实现更智能的代码检索。Code Embedding模型在代码检索、仓库级代码问答,代码补全等场景中发挥不可或缺的作用。

  OASIS的训练只使用了5M Tokens的数据,远低于SOTA模型的训练样本数,通过结合程序分析技术与创新设计的损失函数,以极低的成本就在多个测试集上超越了现有的SOTA模型。

  仓库级程序分析:传统方法仅关注单个代码片段,缺少代码的上下文信息,结合南方科技大学Arise实验室技术,OASIS引入了仓库级别的程序分析技术。通过分析函数调用关系和依赖结构,模型能够更好地理解代码在更大上下文中的语义,相比于孤立地使用函数的docstring,程序分析技术可以引入额外的上下文信息构建高质量样本对。

  OASIS-instruct数据合成算法:我们开发的专有数据增强策略能够自动生成高质量的训练样本。这些样本包含代码和自然语言的对应关系,使模型能够学习到更细腻的语义差异。

  融合式损失函数:创新性地将多目标优化策略应用于模型训练,确保模型在保持传统Code Embedding模型能力的情况下,既能准确区分相似样本,又能识别细微的语义差异,在优化目标的角度添加了新的训练维度。

  OASIS在训练过程中并不包含测试集提供的训练集的情况下,在 CSN、CoSQA、AdvTest等主流评测集上,性能优越。平均检索准确率优于现有所有同尺寸的Code Embedding模型,具体来说,以5M数据训练在三个不同的代码检索数据集全面超越OpenAI-Ada-002。在使用的数据量显著少于Codesage-Large的情况下,在CoSQA数据集上超过7.8%。在模型尺寸仅为三分之一的情况下在平均检索成功率全面超越CodeFuse-CGE-Small,多个数据集领先明显。

  该数据集包含超过200万个代码-文档对,涵盖Python、Java、JavaScript等六种主流编程语言。数据主要来源于函数级别的代码及其对应的文档字符串(docstring),使用自然语言的docstring作为查询(query)。

  CoSQA数据集是一个包含20,000+对自然语言查询和代码的标注数据集,每个数据对都至少由3名人类标注者进行标注。CoSQA数据集中的查询来源于真实的网络搜索,反映了开发者在日常工作中遇到的具体需求,而代码片段则从不同的数据集中精心筛选,以确保多样性和质量。

  AdvTest数据集专门用于测试代码搜索任务的难度。它通过规范化函数名和变量名来增加挑战性,并从原始数据中过滤出高质量的样本。该数据集包含近2万的测试样本,旨在评估模型在代码理解和搜索方面的性能。

  在智能代码检索方面,OASIS能准确理解开发者的查询意图,从海量代码库中精准定位最佳实践代码片段。当开发者输入具体需求描述时,模型能从海量代码库中精准定位最佳实践代码片段,并优先推荐与当前项目技术栈相匹配的示例。

  在代码推荐领域,OASIS突破了传统代码补全工具的局限。基于对代码语义的深度理解,模型能预测开发者的编码意图,主动推荐API调用序列和完整的功能实现方案,提升Kwaipilot代码补全在私域代码方言中的补全质量。

  针对代码复用分析,OASIS能够精确识别功能相似但实现细节不同的代码片段。这一能力在Code Review功能中作用显著,可以帮助模型识别代码中的可能错误。

  在代码理解辅助方面,模型应用于Kwaipilot RepoChat功能,模型能够自动提取遗留系统或第三方库中的关键程序逻辑,生成准确的功能描述和调用关系图谱,帮助开发者快速熟悉上手仓库,显著降低团队的代码理解成本。

  同时,为推动代码智能领域的发展,OASIS将完整开源。开发者可以直接通过 Hugging Face使用该模型,也可以进行进一步的改进和定制。Huggingface 地址

  每日头条、业界资讯、热点资讯、八卦爆料,全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与,TechWeb官方微博期待您的关注。

  TechWeb微晚报:小鹏单周销量逼近万辆,英特尔CEO被董事会“赶下台”

  IEEE Tech Frontiers论坛聚焦AI等三大领域,12月5日线上直播将全球最新研究成果带来中国

  TechWeb微晚报:iPhone 17屏幕信息曝光,企业微信回应文档崩了

  消息称今年全球平板所需OLED屏出货量大增是得益于苹果iPad Pro

  消息称LG电子上月向vivo出售46项美国专利 年初也曾向TCL出售14项

  消息称平板、电视等产品所需OLED屏今年出货量同比均将大增 但明年会放缓

  青云QingCloud EHPC 打造即买即用的全流程SaaS化超算服务

  蚂蚁链发布BTN:可将区块链网络吞吐量提升186% 带宽成本降低80%

  蚂蚁自研数据库OceanBase宣布开源 300万行核心代码向社区开放

网红八卦录入:admin    责任编辑:admin 
  • 上一个网红八卦:

  • 下一个网红八卦: 没有了
  •  
     栏目文章
    普通网红八卦 仅用5M数据超过OpenAI?快手最新Code Embeddi… (12-04)
    普通网红八卦 快手员工数据泄露事件:引发的财经警示与教训 (12-04)
    普通网红八卦 快手员工泄露公司核心机密半年狂赚70W!平台:… (12-04)
    普通网红八卦 徐乾源大师的智慧:八卦福·门牌背后的文化深… (12-03)
    普通网红八卦 八卦福·门牌的历史渊源及现代意义 (12-03)
    普通网红八卦 八卦福·门牌:将传统文化融入现代生活的完美… (12-03)
    普通网红八卦 娃哈哈遭起诉被曝强制要求员工转签合同、取消… (12-02)
    普通网红八卦 辛巴欲赔付一个亿快手直播间被封!客服转战开… (12-02)
    普通网红八卦 盈利最新资讯-快科技--科技改变未来 (12-02)
    普通网红八卦 不敢相信!快手女网红被未婚夫爆料陪睡六万一… (12-01)
    普通网红八卦 快手员工泄露公司核心数据获利数十万被开除 (12-01)
    普通网红八卦 快手发布通报:一员工泄露数据严重违纪 解除劳… (12-01)
    普通网红八卦 柚子君惊曝明月今今领证细节娇妹直言:不怕硬… (11-30)
    普通网红八卦 东北雨姐掉粉;张石头事件;大S续约成功;覃海… (11-30)
    普通网红八卦 惊爆!明月今今竟然悄悄领证柚子君和娇妹的反… (11-30)
    普通网红八卦 快手网红吴迪被人搞了已经报案内幕惊人冲上热… (11-29)
    普通网红八卦 千万网红吴迪虚假宣传事件背后的故事与思考 (11-29)
    普通网红八卦 快手网红吴迪虚假宣传事件:真相与反思 (11-29)
    普通网红八卦 方丈离婚疑云:二驴联手背后的真相与互联网主… (11-28)
    普通网红八卦 从封禁到复出二驴的直播与网络风波 (11-28)