转跳到内容

排行榜

热门内容

显示于 2025年02月24日 在所有范围中最高声望的内容

  1. 前言 自从ChatGPT火起来后,我就有在尝试用各家的大语言模型辅助工作学习,但是基本以网页为主,本地化部署一直是没想过的事情。直到最近Deepseek-R1大火,恰逢过年,能有比较完整的时间段去不务正业,于是我也去试了试,期间记了不少的经验记录。刚好借这个机会,把分散的记录整理成贴,分享一下我作为一个小白,摸索AI模型本地化部署的一些经验,欢迎来交流心得体会呀。 虽说是经验分享,但其实我也是从其它大佬发布的教程学习怎么部署和应用,写这篇帖子的过程,也是重整我脑子里散乱知识的过程,参考过的教程链接我会放到最后。因为我本人不是计算机专业出身,所以会有很多的疏漏和不专业,还请多担待啦。 内容目录 正文 目前来说个人电脑部署的小模型,如果要用来工作,性能上还是不太行。就像Deepseek-R1的蒸馏小模型,至少14b起步才能不那么智障,最大的优点就是隐私性。还是需要明确自己的需求,如果没有什么必须的理由,接入API可能性价比和体验才是最好的。当然,都在这里了,大伙多少会有一些大胆的想法需要AI帮忙实现俺也一样,这个时候隐私性确实是最重要的。所以我会从部署模型、配置交互用的前端软件、挑选合适的模型,这几个方面分享我的经验。 我的设备是台笔记本:i7-11800H(8核16线程)+RTX3070(8G显存)+32G运行内存(3200MHz,16G×2双通道,ddr4)+Windows10系统。 应该属于比较主流的个人电脑配置,供大伙参考。 一、使用Ollama作为框架,在个人电脑部署AI大语言模型的基本流程 Ollama的使用还是比较方便的,尤其是有用过Docker和Conda的筒子,用这个起来应该是没有什么障碍。我做了几张一图流说明。 二、使用CherryStudio作为交互前端,将本地模型接入前端聊天的基本流程 三、从Huggingface的镜像站获取感兴趣的自定义模型 先施工到这,明天继续
    1
  2. 我是在复习而没有时间绘画的星枫(starF) 为此事心生怨念,我决定在我这阴暗的下水道里视奸你们这些有时间画的大佬 我会一直视奸你...永远...永远...永远... 日常发了点癫,决定画个神金表情 不过这个表情真的就挺小的,甚至肉眼看已经是像素级别了 说到像素其实我有想过考完试试像素画,已经下好Aseprite了虽然跟PS一样也是嫖来的 毕竟涩涩还是像素得劲
    1
  3. 嗯 ,也是。 好啦,这个话题也差不多了,下次有机会再聊吧。 谢谢你的交流Kris Dreemurr。88
    1
  4. 和谐的地方不要讨论这种容易引战的东西。
    1
  5. 这是,在勇者长眠之后发生的故事 这个故事... 讲了什么呢? 引 言 的 魔 法 本作的主角——芙莉莲,这位已经在世千年有余的精灵魔法使,在作为勇者队伍的成员完成了对其所在的世界的魔王的讨伐后,由于在对其长生而言很是短暂的一程中深受较自己寿命远短的同伴们影响而有所感触,从而在此后踏上了探寻生灵们的感情与发掘散落在各地的魔法的旅路。 这个故事... 里面都有谁? 简 单 介 绍 人 气 角 色 们 的 魔 法 这位是主角——在其所在的世界中活过了千年的、讨伐了魔王的、有史以来葬送了最多魔族的大魔法使。 这位是菲伦——年轻的魔法使。在主角旧识的僧侣将她交托为徒后,就一直亦徒亦母地陪伴在主角身边。 这位是修塔尔克——年轻的战士。主角在接受了旧识的战士的请求后,和菲伦邀请他加入了旅行。 这位是阿乌拉——二创人气王。(唐突 这部作品... 整体还行吗? 评 价 总 体 的 魔 法 作为从2020年第二季度初开始连载的漫画的动画化作品,本作在各方面的质量都可以说很难让期待已久的读者们有所失望,而受到对其进行二次创作所产出的衍生作品所吸引,直接观看本动画的观众们也大抵对其乏有不满——毕竟这是一部在近期以来可谓少见的将剧情内容、叙事节奏、画面风格等诸多要素以高质高量保持了整整两季的优秀作品。 对这一作... 印象怎么样? 评 论 内 容 的 魔 法 作品整体的氛围基调较为轻松温和,虽然有足够的篇幅可以进行容纳,但并没有将巨大的反差与转折置于其中——老练的大魔法使在使用计谋的同时不会大意轻敌、年轻的小魔法使明白发挥自己专长的重要、缺乏成果而不够自信的强大战士在引导之下逐渐变得相信自己的力量——各司其职的他们克服了旅途上的困难、各有所好的他们之间产生了妙趣的羁绊、各专所长的他们让整个旅程看上去就像是当年成功了的勇者队伍所表现出的那样——这都是无甚刺激的意料之内的事,却也可因丰富的刻画和描写而变得让观众们想要在自己偏好的细节上一探究竟。 这是在专注为生活相对枯燥的观众们带来新奇感受的动画业界中秉持自己循序渐进的节奏,而成为近期相对风格独特、为人所睐的“霸权”的作品。其成功的顺理成章,就如剧中主角所经历的一样。 该动画的... 画面质量呢? 评 鉴 画 面 的 魔 法 本作动画作画质量较业界当前相关相对可说相当上乘且足够稳定。挑剔的俺只从整整二十八集里找到分布范围不超过三集的作画质量有所下滑的部分。如果可以在蓝光版本中对质量略有瑕疵的部分进行修缮就足够优秀了——又或许制作组原本就是这么打算的。 动画里的... 叙事风格呢? 评 点 剧 情 的 魔 法 作品氛围张弛有度,轻松诙谐的日常趣事同紧张激烈的重大冲突被按照良好的节奏进行安排后显得前者不拖沓寡淡、后者不僵持无度,可谓相得益彰!各个部分大概都算不难为观众所轻松接受。 动画里的... 音乐好听吗? 评 赏 音 乐 的 魔 法 相对优秀的音乐也为本作动画的表现力增色不少,OP和ED共有4首,在俺听来都是良作。 在此外还... 有看过梗图! 放 眼 剧 外 的 魔 法 强大的剧外社群影响力!自2023年10月以来,与本作相关的二次创作量用铺天盖地一词以形容也不会太显过分——而在第9话之后更呈井喷态势!感谢阿乌拉——如果有下次,就把アゼリューゼ的判定对象改为“双方在剧外的‘人气角色评选活动’中的得票量”罢! (虽然并没有夺得人气榜榜首,辛梅尔你在这边等着呢是罢) 这部番剧... 已经完结了? 展 望 未 来 的 魔 法 历经整整两季二十八集的放送之后,动画至此已经先告一段落,然而,动画的结尾给出了“旅程将持续下去”的信息,也许,在不久的将来,这一为大家带来了稳健的美的系列会再次出现在观众们眼前——也再一次成为为人们所期待与享受的好物。 这个系列... 会有后续吗? 推 荐 原 作 的 魔 法 此外,由于本作属于由漫画改编而来的作品,其个中情节都是可以在漫画中找寻到的——且在动画中,并没有收括入漫画自61话之后的剧情——考虑到漫画的篇幅已达改编动画所用到的60话的二倍之多,而动画的口碑也已达到近期业界的高峰分段,虽然之后的精彩也约莫是值得各位对其投入些许期待的,但如果实在是等它不及,想要对后续的发展一瞥走向,也可以稍微试阅一下作为该系列原作的漫画! 在试阅原作漫画之后,俺更是发现本动画属于动画画风更精更佳的的较为稀罕的作品,这也是俺撰写本帖内容的一个契机,如果有还没有对动画进行品鉴的坛友,不妨抽空一观,以高质量画面所展现出的逻辑连贯的两季剧情,大抵会带来相对良好的感受。 えーっと... もう終わりましたか? 总 结 的 魔 法 两季的陪伴,两季的精彩。近期难得的佳作,作为动画在各方面的水准都可说较好。俺本打算提到一些其中俺喜爱的片段,但考虑到也许有坛友是会等作品整季完结后再补的类型的观众,个中详细俺就先不剧透了!还没看过本番剧的各位如果对本片的内容有所好奇,就请自己探寻并观赏叭!啾咪~!w じゃあ... 良いよ!来いよ! 召 唤 的 魔 法 ↓那么投下召唤↓ 特别鸣谢:https://frieren-anime.jp/(图片素材出处)
    1
排行榜设为 上海/GMT+08:00
×
×
  • 新建...

重要消息

为使您更好地使用该站点,请仔细阅读以下内容: 使用条款