AI大模型场地
AI大模型场地
专注AI大模型行业媒体,深度解读公司大模型行业动态
IP属地:未知
0关注
6粉丝
0主题
0勋章

性能与成本双赢:实测戴尔AI工作站支撑企业大模型的本地部署与训练

  编辑|星奈 媒体|AI大模型工场 谈到大模型私有化部署,很多人会首先想到数据中心,以为动辄就得使用很多台服务来支撑。一些中小企业或者应用部门,主要做知识库和智能体方向的应用,模型大小基本在70B以内。只要搭配合理,用本地的专业工作站同样可以训练推理,算得上极具性价比的方案了。 随着OpenAI o1-preview的发布,大模型已经越发成熟,距离走入企业生产应用已经很近了。但OpenAI提供访问的次数非常有限,这给企业用户的AI应用普及带来了一定的费用焦虑和困扰。为了应对日益增长的访问频率需求,越来越多的企业用户倾向于大模型的本地化部署。大模型本地部署可以极大地降低数据泄漏的风险,而且系统响应速度和实时性更强,在一些需要快速反馈的场景里优势非常明显,同时也能应对企业个性化需求。 通过在传统数据中心上进行本地大模型部署的方法,会对IT设施带来比较大的挑战,因为从计算资源来说,很多企业的数据中心计算资源很紧张,而且扩展成本比较高,甚至有些中小企业还不具备搭建数据中心的能力。所幸的是,对于知识库等企业级AI 应用来说,完全可以用高配的AI工作站来应对计算需求,以经济高效的方式减轻对数据中心计算资源的压力,从而降低云服务的成本支出。 这次我们选用的是Dell Precision 7960 Tower,搭载了4张「NVIDIA RTX 5880 Ada 」显卡,每张显卡显存48GB,相当于在1台工作站里就能最多有192GB显存,完全可以部署Llama3.1 70B模型。 Dell Precision 7960 Tower 70B模型拥有700亿参数量,在语言理解和生成方面具有显著优势,已经能够满足常见的企业级AI应用,比如知识库应用、对话问答
性能与成本双赢:实测戴尔AI工作站支撑企业大模型的本地部署与训练

腾讯混元版Sora,鹅厂简直“泰裤辣”!

  作者|王玄 编辑|星奈 媒体|AI大模型工场   鹅厂这次真是大手笔,上线即开源!参数量达130亿,是目前参数量最大的开源视频生成模型!!! 昨天,腾讯混元大模型正式上线视频生成能力,目前该模型已上线腾讯元宝APP,大家可在AI应用中的“AI视频”板块申请试用。企业客户可通过腾讯云提供服务接入,API同步开放内测申请。 半个月前,元宝刚完成2.0版的大更新,新增AI应用专属板块,将搜索、生图还有腾讯文档、搜狗输入法等打通,这次又将视频的内容整合到一起,来了把大的。 腾讯官方也第一时间上传了由混元生成企鹅短片,只能说前有妻子的浪漫旅行,后有大鹅的环球旅行。。。。 在前有Sora,后有可灵、Vidu等视频生成模型的夹击下,混元实际效果如何呢? 下面就来看看AI大模型工场跑了一圈的视频内容吧~    一、多风格元素下的真实质感 首先在腾讯混元输入一段提示词,就能生成 5 秒的视频,支持中文、英文输入。 风格上面包含写实风格、动画风格、电影风格、黑白风格、赛博朋克风格,多种风格实现文生视频的转换。除此之外还延伸了指令功能,在景别、光线、镜头运动等方面都可进行精准的细节调整。 此次混元视频模型的优势主要有4点: 1、超写实风格,混元视频模型具有强大的写实能力与对细节的精细处理处理。 2、强语义理解能力,模型能够准确理解用户的多元化指令和需求。 3、多镜头转换,能够在不同的镜头之间丝滑切换,增强视频的叙事性。 4、连续动作生成,混元视频模型不仅能够做到单一视频主体的多动作连续生成,且在多主体场景下也可生成大幅度合理运动。 在写实风格这块,混元可以说是狠狠拿捏了。 比如在这段小女孩徒步视频中,我们可以看到,混元对冲锋衣、徒步等场景进行精准理解和高度还原,尽管提示词中并没有提到“登山杖”,但在徒步场景中,登山杖是不可或缺的,视频中也有所体现,并且
腾讯混元版Sora,鹅厂简直“泰裤辣”!

AI助手的第一战场:百度、夸克、腾讯元宝的开学季之争

  作者|鱼丸 编辑|星奈 媒体|AI大模型工场 又到了一年的开学季,同学们是不是又开始为了查资料、写作业、做项目等等而在各种搜索引擎和工具中间来回切换、焦头烂额了呢?当开学季遇上AI革命,让这一切都有了新解法。腾讯元宝,百度搜索,夸克搜索,三款AI应用纷纷推出开学季福利,到底体验结果如何,我们来看一下吧。   01 开学季三款AI如何各显神通   AI在教育学习领域早就不是第一次合作了,但是随着大模型的不断更新升级,越来越多的功能可以解决学习中的难题,帮助学生尽快的融入到学习氛围中,帮助老师和家长更好的帮助学生学习。 先说百度搜索,百度依靠文心大模型,文心4.5多模态模型给百度搜索提供了技术护城河,不仅如此依靠多年的数据积累让百度搜索在数据来源上不再担心数据不科学不严谨。 这次在百度APP上搜索开学季就可以弹出一个专门查询的界面,百度已经给罗列好了AI工具,不论是从预习到解题,还是从数学到写作,那叫一个全,这是要成为全能助手的节奏。 更惊喜的是拍照搜题接入了deepseek,给学生家长有更好的体验。 而且我们看到还有专门的暑假作业解析,AI名师知识讲解也更侧重于小学初中数学,百度搜索更针对于中小学生,大学生的应用上就不是特别明显了,更适合年龄小一些的同学,中小学的家长和老师有福了 。 再来看看夸克搜索,夸克在界面上有一个认证身份可以免费领会员的福利,会员可以使用更多的AI功能,大家不要忘记去领取哦~当然普通用户可以使用的AI功能也不少 ,AI生图、AI写作、解题大师、夸克PPT,都可以满足基本上的学习需求。 并且夸克好像针对的人群和百度大不相同,更倾向于大学生,像什么论文课程搜寻查找文献,入学资料上怎么制作一寸照片,整合入学证件,怎么申请助学贷款,连入学要准备什么都找好了,还有大学生活怎么做PPT,夸克这是要把大学生打包带走吗,那么全面。 最
AI助手的第一战场:百度、夸克、腾讯元宝的开学季之争

去老虎APP查看更多动态