找回密码
 会员注册
查看: 17|回复: 0

使用Ollama+Python本地环境搭建AI大模型

[复制链接]

1

主题

0

回帖

4

积分

新手上路

积分
4
发表于 2024-9-10 19:59:19 | 显示全部楼层 |阅读模式
工作需要,最近研究在本地搭建AI问答平台的方法,设计到简单的文本问答、Word文档问答、Pdf文档问答、excel/csv文档问答以及图片问答。搭建AI其实很简单,只需要去下载一个Ollama就可以了,在Ollama上可以使用很多的大模型,比如说Llama3、Qwen等。下载Ollama后,只需要打开cmd,然后输入命令ollamarunmodel_name,就可以运行指定模型了。(如果没有pull模型的话,运行该命令会先去拉模型下来,然后再运行模型)model_name是指模型名称,不知道有什么模型的,可以去Ollama的官网查看。>>快捷入口<< 当然,仅仅这样的话无法完成项目需求,所以需要用代码来实现。之前使用了两种语言实现了文本问答,分别为Java以及Python。 但是后面因为要有文档问答,所以之后主要都是使用Python来调用Ollama框架来使用AI大模型了。 接下来记录一下Python要使用的库有哪些(主要是调用AI的库): langchain_community(可以使用很多模型框架) pandasai(主要是用来分析csv以及excel) 一、简单AI问答 from langchain_community.llms import Ollama text = "你是谁?" llm = Ollama(model="qwen") llm.invoke(text) 1234 就是这么简单,几行代码就可以使用AI大模型了。 二、csv、excel数据文档问答 这里就用到了pandasai,这是一个用于数据分析的人工智能,有官网,看着官网文档操作可以解决很多问题。 from langchain_community.llms import Ollama from pandasai import SmartDataframe import pandas as pd import operator from pandasai.connectors import PandasConnector def pandasai_chat(file, query): df_v = parse_file(file) ollama_llm = Ollama(model="llama3") df = pd.DataFrame(df_v[0]) pandas_connector = PandasConnector({ "original_df": df }, fiel12345678910111213
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 会员注册

本版积分规则

QQ|手机版|心飞设计-版权所有:微度网络信息技术服务中心 ( 鲁ICP备17032091号-12 )|网站地图

GMT+8, 2024-12-29 13:19 , Processed in 0.487032 second(s), 25 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表