java如何访问本地部署的deepseek?
前面的文章<<4g内存也行,史上最详细deepseek本地安装教程>>我们讲了如何在本地安装部署deepseek,本地安装的目的是为了搭建我们自己的大模型或知识库,供其他系统使用,比如客服系统、问答系统、数据检索系统等等,否则,直接使用deepseek提供的pc端或app不是更方便,而且更强大。这样,就需要其他系统和deepseek进行对接,从而实现通讯。
前面安装deepseek使用的是ollama,同样,对接也是和ollama,由ollama对外提供服务,http协议的,端口是11434,地址是api/generate
如果ip是127.0.0.1,则访问地址就是:
http://127.0.0.1:11434/api/generate
请求参数:
model:大模型名称,比如我安装的是deepseek-r1:1.5b
prompt:询问的问题,比如java是什么?
stream:是否使用流式响应,false或true,对于长文本生成可以流式响应,一般不需要
下面我们看看如何使用java对接,因为使用的是http协议,其他任何的开发语言都可以,我这里只以java为例:
第1步:启动ollama
任务栏出现这个,就说明是启动的
第2步:集成http和json依赖两个工具
因为ollama返回的数据是json格式
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>fastjson</artifactId>
<version>1.2.33</version>
</dependency>
<dependency>
<groupId>org.apache.httpcomponents</groupId>
<artifactId>httpclient</artifactId>
<version>4.3.5</version>
</dependency>
第3步:访问
完整代码:
package com.demo;
import com.alibaba.fastjson.JSONObject;
import org.apache.http.HttpResponse;
import org.apache.http.client.methods.HttpPost;
import org.apache.http.entity.ContentType;
import org.apache.http.entity.StringEntity;
import org.apache.http.impl.client.CloseableHttpClient;
import org.apache.http.impl.client.HttpClients;
import org.apache.http.util.EntityUtils;
import java.net.URI;
public class Test {
private static final String OLLAMA_URL = "http://localhost:11434/api/generate";
public static String generateResponse(String model, String prompt) throws Exception {
HttpPost httpPost = new HttpPost(OLLAMA_URL);
String json = String.format("{\"model\": \"%s\", \"prompt\": \"%s\", \"stream\": false}", model, prompt);
httpPost.setEntity(new StringEntity(json, ContentType.APPLICATION_JSON));
CloseableHttpClient httpClient = HttpClients.createDefault();
HttpResponse response = httpClient.execute(httpPost);
String responseBody = EntityUtils.toString(response.getEntity());
httpClient.close();
System.out.println("回答:"+JSONObject.parseObject(responseBody).getString("response"));
return responseBody;
}
public static void main(String[] args) {
try {
String response = generateResponse("deepseek-r1:1.5b", "你是谁?");
} catch (Exception e) {
e.printStackTrace();
}
}
}
返回的json中response是回答的内容。
我是程序员老左,以后会长期更新,可以关注一下,有任何问题可以留言或私信,我们下期见。