回到顶部

OpenAI服务受限,小语言模型或将成为的新选择?SLM本地部署,打造你的技术护城河!

Sat, 13 Jul 2024 13:00:00 GMT+08 ~ Sat, 13 Jul 2024 16:00:00 GMT+08
蘑菇云创客空间

Hide

Tickets
    Please select the order price
    More Details

    Event DetailsHide...

    随着人工智能技术的飞速发展,苹果公司最新发布的Apple Intelligence技术引起了广泛关注。特别是其本地运行的30亿参数的小模型,展示了在资源受限环境中的强大潜力。与此同时,OpenAI的一则通告更是凸显了本地部署小型语言模型(SLM)的重要性和紧迫性。


    ChatGPT服务变动与本地部署的重要性


    6月25日,OpenAI宣布从7月9日起,将停止对不在支持名单上的国家、地区提供API服务,这包括了中国大陆和中国香港。这一变动对于那些依赖OpenAI API的“套壳”大模型来说,无疑是一次毁灭性的打击。


    在这种背景下,本地部署SLM的优势变得尤为明显。它不仅能够提供快速响应、保护用户隐私,还能降低数据存储和处理成本,具有显著的商业价值。此外,本地部署的SLM有助于企业避免因外部API服务变动而带来的风险





    活动名称




    SLM Phi3 工作坊:AI微调技术与游戏竞赛体验


    什么是SLM?

    小型语言模型( Small Language Models,SLM) 是专为资源受限环境设计的AI模型,它们体积小巧、效率高,适合部署在移动设备、嵌入式系统等平台上。SLM能够在保持较低能耗的同时,提供出色的自然语言处理能力。


    什么是Phi3?

    微软的Phi-3 Mini是一个在3.3万亿个代币上训练的 38亿参数小语言模型,从学术基准和内部测试衡量,其整体性能可与 Mixtral 8x7B 和 GPT-3.5 等模型相媲美,其卓越的性能和成本效益在多种语言、推理、编码和数学基准测试中超越了规模更大的模型。




    为什么要学习SLM 本地部署






    速响应与隐私保护

    即时处理能力:SLM能够在本地设备上即时处理语言任务,无需等待云端响应,为用户提供更迅速的服务体验。

    数据隐私保障:通过本地部署,SLM有助于保护用户数据不被上传至云端,降低数据泄露风险,增强隐私保护。


    技术前沿与创新驱动

    前沿技术掌握:SLM代表了自然语言处理领域的最新进展,学习SLM有助于了解和掌握AI技术的最前沿。

    创新应用开发:SLM的灵活性和定制性为开发新型应用提供了广阔空间,激发技术创新和产品创新。


    资源效率与成本效益

    资源优化利用:SLM针对资源受限的环境进行了特别优化,能够在有限的计算能力和存储空间内高效运行。

    成本效益显著:相比于大型模型,SLM在开发、部署和运维上的成本更低,更适合预算有限的个人和中小企业。


    广泛应用与职业发展

    多样化应用场景:SLM可应用于智能助手、语言翻译、情感分析等多种场景,为各行各业提供智能化解决方案。

    职业发展新机遇:随着AI技术的普及,掌握SLM相关知识和技能将为个人职业发展带来新的机遇和可能性。


    应对挑战与自主可控

    减少外部依赖:在全球化的技术环境中,SLM的本地部署能力有助于减少对外部技术的依赖,增强技术自主性。

    应对政策与法规变化:随着数据保护法规的加强,SLM能够在符合法规要求的同时,为用户提供服务


    持续学习与社区支持

    持续学习路径:SLM作为一个不断发展的领域,为学习者提供了持续学习和自我提升的机会。

    活跃的技术社区:SLM背后有一个活跃的技术社区,为学习者提供了丰富的学习资源、交流平台和支持网络。






    课程介绍






    本次工作坊将带您从理论到实践,全面掌握Phi3模型的运行、微调和应用。


    课纲概览:

    深入浅出掌握语言模型


    阶段一:语言模型基础与发展历程


    了解语言模型的基本概念、发展历程以及它们在AI领域的重要作用。探索SLM设计初衷,它们如何针对资源受限的环境进行优化。

    大模型与小模型的比较分析
    对比大语言模型与小语言模型的性能、应用场景和优缺点。


    阶段二:Phi3模型特性深入解析


    Phi3模型架构与技术原理
    深入讲解Phi3模型的内部结构和工作原理,以及它如何在保持小型化的同时实现高效性能。

    SLM在智能设备上的实际部署案例分析

    通过实际案例,展示SLM如何在智能助手、语言翻译等场景中发挥作用。


    阶段三:Phi3模型的运行与微调实践


    Phi3模型的本地环境搭建与运行
    指导如何在个人电脑上搭建环境并运行Phi3-Medium模型。

    Phi3模型微调技术
    学习如何使用特定数据集对Phi3模型进行微调,以适应特定应用需求。

    微调后的模型评估与对比
    评估微调后的模型性能,并学习如何进一步优化模型参数。


    阶段四:实战演练与创新应用探索


    街霸游戏AI竞赛体验
    将Phi3模型部署到A100服务器,参与街霸游戏AI竞赛,实践模型的部署与应用。

    创新项目设计与实现
    鼓励学员发挥创意,设计并实现自己的AI项目,将理论知识转化为实践成果。



    授课老师:


    王博  AlphaArea_

    B站知名UP主



    特色亮点:

    技术领先:学习微软最新的AI技术,保持技术领先优势。

    定制化体验:亲手操作Phi3微调,掌握定制AI模型的技能。

    性能设备:给每位学员提供A100 AI超算

    立即报名:探索AI的奥秘,提升技能,享受竞赛的激情!名额有限,先到先得!




    往期活动




    微信截图_20240703155701.png



    活动信息





    时间:7月13日  周六  13:00-16:00

    地点:上海市浦东新区郭守敬路498号 浦东软件园 4号楼1楼 蘑菇云创客空间

    扫码报名:

    费用:

    初级研修班:399元/人

    (15人起,最多20人)


    参与要求:

    自带笔记本电脑


    立即行动:

    名额有限,先到先得!

    参加SLM荣耀巅峰赛

    为后续中级研修班夯实基础



    出行建议:

    1. 开车出行

      园区内不对外开放停车,驾车来访的朋友们请将车辆停在居里路的划线停车位,沿居里路步行至郭守敬园西门进入园区。

    2. 公共交通

      请从地铁2号线金科路站的3号出口出站(十字路口过两次马路),沿金科路步行10分钟即可抵达郭守敬园的5号门进入园区。


    入口识别标志:卷帘门

    蘑菇云创客空间大门入口位于4号楼面向8号楼的街道位置,门头是具有创客风格的卷帘门。





    Event Tags

    Recently Participation

    • 蘑菇云创客空间
      Like

      (15天前)

    • 黄小黄
      Like

      (22天前)

    Perhaps you'd be interested in

    Question

    All Questions

    Haven't posted any questions yet, grab a sofa!

    OrganizersMore

    蘑菇云创客空间

    蘑菇云创客空间

    创客嘉年华创办于2012年,是由来自国内外的创客团队共同打造,它已经成为中国创客每年一次的大party 、一次灵感和手工的盛宴、一个接触科技的游乐场。通过亲身体验参与、动手制作、传达“想法当实现”的生活方式,激发大家的创新潜能和源动力! 创客嘉年华如今已在北京、上海、深圳等多地举办,并以开源联合的互联网方式,在全国各地陆续展开。

    WeChat Scan

    Share to WeChat→

    免费发布