本地推理,单机运行,MacM1芯片系统基于大语言模型C++版本LLaMA部署“本地版”的ChatGPTby Liu Yue/2023-03-24 标签: C++ ChatGPT LLaMA MacM1 单机 基于 推理 本地 模型 版本 系统 芯片 语言 运行 部署 OpenAI公司基于GPT模型的ChatGPT风光无两，眼看它起朱楼，眼看它宴宾客，FaceBook终于坐不住了，发布了同样基于LLM的人工智能大语言模型LLaMA，号称包含70亿、130亿、330亿和650亿这4种参数规模的模型，参数是指神经网络中的权重和偏置等可调整的变量，用于训练和优化神经网络的性能，70亿意味着神经网络中有70亿个参数，由此类推。 在一些大型神经网络中，每个参数需要使用32位或64位浮点数进行存储，这意味着每个参数需要......了解更多
四位一体水溶交融,Docker一拖三Tornado6.2 + Nginx + Supervisord非阻塞负载均衡容器式部署实践by Liu Yue/2022-01-07 标签: Docker nginx Supervisord Tornado6.2 一拖 交融 四位一体 均衡 实践 容器 水溶 负载 部署 阻塞 容器，又见容器。Docker容器的最主要优点就在于它们是可移植的。一套服务，其所有的依赖关系可以捆绑到一个独立于Linux内核、平台分布或部署模型的主机版本的单个容器中。此容器可以传输到另一台运行Docker的主机上，并且在没有兼容性问题的情况下执行。而传统的微服务架构会将各个服务单独封装为容器，虽然微服务容器化环境能够在给定数量的基础架构内实现更高的工作负载密度，但是，在整个生产环境中创建、监视和销毁的容器需求总量呈指数级增长，从而显著增加了基于容器管理环境的复杂性......了解更多
海纳百川无所不容，Win10环境下使用Docker容器式部署前后端分离项目Django+Vue.jsby Liu Yue/2020-11-17 标签: Django Docker js vue win10 使用 分离 前后 容器 无所不容 海纳百川 环境 部署 项目 随着现代化产品研发的不断推进，我们会发现，几乎每个产品线都会包含功能各异的服务，而且服务与服务之间存在也会存在着错综复杂的依赖和被依赖关系，这就会带来一个世界性难题，项目部署的时候需要运维来手动配制服务之间通信的协议和地址，稍有不慎就会导致服务异常，同时如果服务器因为坏道或者其他原因导致更换物理机，重新部署新环境的成本也会非常之高。因此，我们就会寄希望于Docker这种的容器技术可以让我们构建产品所需要的所有的服务能够迅速快捷的重新部署，并且可以根......了解更多
利用DockerHub在Centos7.7环境下部署Nginx反向代理Gunicorn+Flask独立架构by Liu Yue/2020-07-17 标签: Centos7.7 DockerHub Flask Gunicorn nginx 代理 利用 反向 架构 独立 环境 部署 上一篇文章：Docker在手，天下我有，在Win10系统下利用Docker部署Gunicorn+Flask打造独立镜像，是在Win10简单玩了一下Docker的镜像打包，属实玩票，娱乐属性较高。要是想真刀真枪的在生产环境部署还得是Centos。 本次使用Nginx反向代理Flask服务，为什么要加一层Nginx呢？因为Nginx可以直接处理静态文件请求而不用经过应用服务器，避免占用宝贵的运算资源，并且可以缓存静态资源，使访......了解更多
Docker在手，天下我有，在Win10系统下利用Docker部署Gunicorn+Flask打造独立镜像by Liu Yue/2020-07-16 标签: Docker Flask Gunicorn win10 利用 在手 天下 打造 独立 系统 部署 镜像 书接上回，之前一篇：Win10环境下使用Flask配合Celery异步推送实时/定时消息(Socket.io)/2020年最新攻略，阐述了如何使用Celery异步推送Websocket消息，现在我们利用Docker将这个完整项目部署起来，为什么用Docker呢？原因很简单，这种容器技术可以将整个项目用单个容器装起来，仅仅只需要维护一个简单的配置文件就告诉电脑每次部署要把什么东西装进容器，甚至把这个过程自动化，部署流程就会变得简单、方便。 简单......了解更多
在centos7.6上部署前后端分离项目Nginx反向代理vue.js2.6+Tornado5.1.1，使用supervisor统一管理服务by Liu Yue/2019-08-22 标签: 使用 Tornado5.1 nginx 部署 服务 vue Centos7.6 js2.6 Supervisor 项目 分离 反向 代理 前后 统一 管理 这一次使用vue.js+tornado的组合来部署前后端分离的web项目，vue.js不用说了，前端当红炸子鸡，泛用性非常广，无论是单页应用，还是混合式开发app，亦或是微信小程序开发，样样得心应手，tornado最近的风头有点被新锐框架sanic抢走了，但是作为老牌的异步非阻塞框架，其内置了支持epoll/kqueue 等高效网络库，而具备了处理高并发的能力并且开发效率也不低，这一次tornado作为承载后端压力的角色。 ......了解更多
在Centos7.6上部署Docker环境以及安装docker-composeby Liu Yue/2019-08-21 标签: 安装 环境 部署 以及 Centos7.6 Docker compose 毫无疑问，Docker目前是现阶段最为火爆的容器技术了，它在业务解耦和拆分业务层面有着不可忽视的作用，而使用 Docker Compose 可以轻松、高效的管理容器，它是一个用于定义和运行多容器 Docker 的应用程序工具，这里记录一下如何在centos7.6上部署Docker以及docker-compose。 #升级yum sudo yum update #卸载旧版本docker sudo yum remo......了解更多
在阿里云Centos7.6上利用docker搭建Jenkins来自动化部署Django项目by Liu Yue/2019-05-28 标签: 阿里 利用 Django 部署 Centos7.6 Docker 搭建 Jenkins 自动化 项目 一般情况下，将一个项目部署到生产环境的流程如下： 需求分析—原型设计—开发代码—内网部署-提交测试—确认上线—备份数据—外网更新-最终测试，如果发现外网部署的代码有异常，需要及时回滚。 整个过程相当复杂而漫长，其中还需要输入不少的命令，比如上传代码，git的拉取或者合并分支等等。 Jenkins是目前非......了解更多
在阿里云Centos7.6上面部署基于redis的分布式爬虫scrapy-redisby Liu Yue/2019-05-27 标签: 爬虫 Scrapy 阿里 基于 redis 部署 Centos7.6 分布式 上面 Scrapy是一个比较好用的Python爬虫框架，你只需要编写几个组件就可以实现网页数据的爬取。但是当我们要爬取的页面非常多的时候，单个服务器的处理能力就不能满足我们的需求了（无论是处理速度还是网络请求的并发数），这时候分布式爬虫的优势就显现出来。 而Scrapy-Redis则是一个基于Redis的Scrapy分布式组件。它利用Redis对用于爬取的请求(Requests)进行存储和调度(......了解更多
在阿里云服务器上使用Nginx部署https协议的网站by Liu Yue/2019-05-21 标签: 使用 https 阿里 nginx 服务器 部署 网站 协议 之前写过一篇文章是在阿里云服务器上用Apache切换https协议：将博客迁移阿里云并且切换成https解析的过程 这一次，换成使用Nginx来部署，相比之下，比Apache的配置要简单一些 如何申请SSL证书就按下不表了，非常简单，目前阿里云和腾讯云都免费提供一年的证书服务，区别就是腾讯云不需要域名在腾讯，而阿里云只有域名在阿里旗下才提供。 ......了解更多
在阿里云Centos7.6上部署Supervisor来监控和操作各类服务by Liu Yue/2019-05-17 标签: 操作 阿里 部署 服务 Centos7.6 Supervisor 监控 各类 Supervisor 是用Python开发的一个client/server服务，是Linux/Unix系统下的一个进程管理工具，不支持Windows系统。它可以很方便的监听、启动、停止、重启一个或多个进程。用Supervisor管理的进程，当一个进程意外被杀死，supervisort监听到进程死后，会自动将它重新拉起，很方便的做到进程自动恢复的功能，不再需要自己写shell脚本来控制。 &n......了解更多
在阿里云centos7.6上部署vue.js2.6前端应用by Liu Yue/2019-05-07 标签: 应用 阿里 部署 vue 前端 Centos7.6 js2.6 在之前的一篇文章中详细阐述了如何部署Nginx代理uwsgi+django后台服务,现在轮到部署前端应用vue.js了，vue.js的好处就不多说了，其作为一个轻巧、高性能、可组件化的MVVM库，学习成本要比React要低，性能比脏检查的AngularJS不知道高到哪里去了。本文介绍如何在centos上部署vue.js应用。 建立一个简单的vue.js脚手架项目的完整命令 //安装cnpm npm i......了解更多
在阿里云Centos7.6中部署nginx1.16+uwsgi2.0.18+Django2.0.4by Liu Yue/2019-05-05 标签: 阿里 Django2.0 部署 Centos7.6 nginx1.16 uwsgi2.0 18 一直以来想写一篇完整的在阿里云服务器上部署Django服务结合uwsgi，并且通过nginx做反向代理。因为网上的攻略鱼龙混杂，加上技术不断更新，一些年代久远的文章很容易让人在部署的过程中掉坑里，无法自拔，所以本篇文章以最新的阿里云服务器centos7.6为背景，完全阐述如何部署，亲测可用，其实要说难点完全没有，只要按部就班，就不会有问题。 当你购买了阿里云的ecs，涉及ecs的有两个密码，一定要搞清楚，一个密码是远程链接密码......了解更多
