parent
1a07e3e4ee
commit
fab1f9e26c
@ -0,0 +1,23 @@
|
||||
package xyz.wbsite.achat.config;
|
||||
|
||||
import org.springframework.context.annotation.Bean;
|
||||
import org.springframework.context.annotation.Configuration;
|
||||
import org.springframework.web.servlet.config.annotation.WebMvcConfigurer;
|
||||
import xyz.wbsite.achat.core.service.ChatService;
|
||||
import xyz.wbsite.achat.core.service.impl.ChatServiceSampleImpl;
|
||||
|
||||
/**
|
||||
* 对话配置
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
@Configuration
|
||||
public class ChatConfig implements WebMvcConfigurer {
|
||||
|
||||
@Bean
|
||||
public ChatService chatService() {
|
||||
return new ChatServiceSampleImpl();
|
||||
}
|
||||
}
|
||||
@ -0,0 +1,30 @@
|
||||
//package xyz.wbsite.achat.core;
|
||||
//
|
||||
///**
|
||||
// * 附件
|
||||
// *
|
||||
// * @author wangbing
|
||||
// * @version 0.0.1
|
||||
// * @since 1.8
|
||||
// */
|
||||
//public class Attachment {
|
||||
// private String filename;
|
||||
//
|
||||
// private String fid;
|
||||
//
|
||||
// public String getFilename() {
|
||||
// return filename;
|
||||
// }
|
||||
//
|
||||
// public void setFilename(String filename) {
|
||||
// this.filename = filename;
|
||||
// }
|
||||
//
|
||||
// public String getFid() {
|
||||
// return fid;
|
||||
// }
|
||||
//
|
||||
// public void setFid(String fid) {
|
||||
// this.fid = fid;
|
||||
// }
|
||||
//}
|
||||
@ -0,0 +1,17 @@
|
||||
//package xyz.wbsite.achat.core;
|
||||
//
|
||||
//public class Prompt {
|
||||
//
|
||||
// /**
|
||||
// * 提示词
|
||||
// */
|
||||
// private String prompt;
|
||||
//
|
||||
// public String getPrompt() {
|
||||
// return prompt;
|
||||
// }
|
||||
//
|
||||
// public void setPrompt(String prompt) {
|
||||
// this.prompt = prompt;
|
||||
// }
|
||||
//}
|
||||
@ -0,0 +1,126 @@
|
||||
//package xyz.wbsite.achat.core;
|
||||
//
|
||||
//
|
||||
///**
|
||||
// * 会话
|
||||
// *
|
||||
// * @author wangbing
|
||||
// * @version 0.0.1
|
||||
// * @since 1.8
|
||||
// */
|
||||
//public class Session {
|
||||
// /**
|
||||
// * 主键
|
||||
// */
|
||||
// private String id;
|
||||
// /**
|
||||
// * 用户ID
|
||||
// */
|
||||
// private String uid;
|
||||
// private String title;
|
||||
// private String model;
|
||||
// private String prompt;
|
||||
// private String temperature;
|
||||
// private String topP;
|
||||
// private String frequencyPenalty;
|
||||
// private String presencePenalty;
|
||||
// private String maxTokens;
|
||||
// private String lastTime;
|
||||
// private String lastMessage;
|
||||
//
|
||||
// public String getId() {
|
||||
// return id;
|
||||
// }
|
||||
//
|
||||
// public void setId(String id) {
|
||||
// this.id = id;
|
||||
// }
|
||||
//
|
||||
// public String getUid() {
|
||||
// return uid;
|
||||
// }
|
||||
//
|
||||
// public void setUid(String uid) {
|
||||
// this.uid = uid;
|
||||
// }
|
||||
//
|
||||
// public String getTitle() {
|
||||
// return title;
|
||||
// }
|
||||
//
|
||||
// public void setTitle(String title) {
|
||||
// this.title = title;
|
||||
// }
|
||||
//
|
||||
// public String getModel() {
|
||||
// return model;
|
||||
// }
|
||||
//
|
||||
// public void setModel(String model) {
|
||||
// this.model = model;
|
||||
// }
|
||||
//
|
||||
// public String getPrompt() {
|
||||
// return prompt;
|
||||
// }
|
||||
//
|
||||
// public void setPrompt(String prompt) {
|
||||
// this.prompt = prompt;
|
||||
// }
|
||||
//
|
||||
// public String getTemperature() {
|
||||
// return temperature;
|
||||
// }
|
||||
//
|
||||
// public void setTemperature(String temperature) {
|
||||
// this.temperature = temperature;
|
||||
// }
|
||||
//
|
||||
// public String getTopP() {
|
||||
// return topP;
|
||||
// }
|
||||
//
|
||||
// public void setTopP(String topP) {
|
||||
// this.topP = topP;
|
||||
// }
|
||||
//
|
||||
// public String getFrequencyPenalty() {
|
||||
// return frequencyPenalty;
|
||||
// }
|
||||
//
|
||||
// public void setFrequencyPenalty(String frequencyPenalty) {
|
||||
// this.frequencyPenalty = frequencyPenalty;
|
||||
// }
|
||||
//
|
||||
// public String getPresencePenalty() {
|
||||
// return presencePenalty;
|
||||
// }
|
||||
//
|
||||
// public void setPresencePenalty(String presencePenalty) {
|
||||
// this.presencePenalty = presencePenalty;
|
||||
// }
|
||||
//
|
||||
// public String getMaxTokens() {
|
||||
// return maxTokens;
|
||||
// }
|
||||
//
|
||||
// public void setMaxTokens(String maxTokens) {
|
||||
// this.maxTokens = maxTokens;
|
||||
// }
|
||||
//
|
||||
// public String getLastTime() {
|
||||
// return lastTime;
|
||||
// }
|
||||
//
|
||||
// public void setLastTime(String lastTime) {
|
||||
// this.lastTime = lastTime;
|
||||
// }
|
||||
//
|
||||
// public String getLastMessage() {
|
||||
// return lastMessage;
|
||||
// }
|
||||
//
|
||||
// public void setLastMessage(String lastMessage) {
|
||||
// this.lastMessage = lastMessage;
|
||||
// }
|
||||
//}
|
||||
@ -1,30 +0,0 @@
|
||||
package xyz.wbsite.achat.core.base;
|
||||
|
||||
/**
|
||||
* 附件
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class Attachment {
|
||||
private String filename;
|
||||
|
||||
private String fid;
|
||||
|
||||
public String getFilename() {
|
||||
return filename;
|
||||
}
|
||||
|
||||
public void setFilename(String filename) {
|
||||
this.filename = filename;
|
||||
}
|
||||
|
||||
public String getFid() {
|
||||
return fid;
|
||||
}
|
||||
|
||||
public void setFid(String fid) {
|
||||
this.fid = fid;
|
||||
}
|
||||
}
|
||||
@ -1,17 +0,0 @@
|
||||
package xyz.wbsite.achat.core.base;
|
||||
|
||||
public class Prompt {
|
||||
|
||||
/**
|
||||
* 提示词
|
||||
*/
|
||||
private String prompt;
|
||||
|
||||
public String getPrompt() {
|
||||
return prompt;
|
||||
}
|
||||
|
||||
public void setPrompt(String prompt) {
|
||||
this.prompt = prompt;
|
||||
}
|
||||
}
|
||||
@ -1,126 +0,0 @@
|
||||
package xyz.wbsite.achat.core.base;
|
||||
|
||||
|
||||
/**
|
||||
* 会话
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class Session {
|
||||
/**
|
||||
* 主键
|
||||
*/
|
||||
private String id;
|
||||
/**
|
||||
* 用户ID
|
||||
*/
|
||||
private String uid;
|
||||
private String title;
|
||||
private String model;
|
||||
private String prompt;
|
||||
private String temperature;
|
||||
private String topP;
|
||||
private String frequencyPenalty;
|
||||
private String presencePenalty;
|
||||
private String maxTokens;
|
||||
private String lastTime;
|
||||
private String lastMessage;
|
||||
|
||||
public String getId() {
|
||||
return id;
|
||||
}
|
||||
|
||||
public void setId(String id) {
|
||||
this.id = id;
|
||||
}
|
||||
|
||||
public String getUid() {
|
||||
return uid;
|
||||
}
|
||||
|
||||
public void setUid(String uid) {
|
||||
this.uid = uid;
|
||||
}
|
||||
|
||||
public String getTitle() {
|
||||
return title;
|
||||
}
|
||||
|
||||
public void setTitle(String title) {
|
||||
this.title = title;
|
||||
}
|
||||
|
||||
public String getModel() {
|
||||
return model;
|
||||
}
|
||||
|
||||
public void setModel(String model) {
|
||||
this.model = model;
|
||||
}
|
||||
|
||||
public String getPrompt() {
|
||||
return prompt;
|
||||
}
|
||||
|
||||
public void setPrompt(String prompt) {
|
||||
this.prompt = prompt;
|
||||
}
|
||||
|
||||
public String getTemperature() {
|
||||
return temperature;
|
||||
}
|
||||
|
||||
public void setTemperature(String temperature) {
|
||||
this.temperature = temperature;
|
||||
}
|
||||
|
||||
public String getTopP() {
|
||||
return topP;
|
||||
}
|
||||
|
||||
public void setTopP(String topP) {
|
||||
this.topP = topP;
|
||||
}
|
||||
|
||||
public String getFrequencyPenalty() {
|
||||
return frequencyPenalty;
|
||||
}
|
||||
|
||||
public void setFrequencyPenalty(String frequencyPenalty) {
|
||||
this.frequencyPenalty = frequencyPenalty;
|
||||
}
|
||||
|
||||
public String getPresencePenalty() {
|
||||
return presencePenalty;
|
||||
}
|
||||
|
||||
public void setPresencePenalty(String presencePenalty) {
|
||||
this.presencePenalty = presencePenalty;
|
||||
}
|
||||
|
||||
public String getMaxTokens() {
|
||||
return maxTokens;
|
||||
}
|
||||
|
||||
public void setMaxTokens(String maxTokens) {
|
||||
this.maxTokens = maxTokens;
|
||||
}
|
||||
|
||||
public String getLastTime() {
|
||||
return lastTime;
|
||||
}
|
||||
|
||||
public void setLastTime(String lastTime) {
|
||||
this.lastTime = lastTime;
|
||||
}
|
||||
|
||||
public String getLastMessage() {
|
||||
return lastMessage;
|
||||
}
|
||||
|
||||
public void setLastMessage(String lastMessage) {
|
||||
this.lastMessage = lastMessage;
|
||||
}
|
||||
}
|
||||
@ -0,0 +1,123 @@
|
||||
package xyz.wbsite.achat.core.chat;
|
||||
|
||||
import xyz.wbsite.achat.core.message.Message;
|
||||
|
||||
import java.util.List;
|
||||
|
||||
/**
|
||||
* OpenAI聊天完成请求 - 符合OpenAI官方API规范
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class ChatCompletionRequest {
|
||||
private String model;
|
||||
private List<Message> messages;
|
||||
private Double temperature;
|
||||
private Double top_p;
|
||||
private Integer n;
|
||||
private Boolean stream;
|
||||
private List<String> stop;
|
||||
private Integer max_tokens;
|
||||
private Double presence_penalty;
|
||||
private Double frequency_penalty;
|
||||
private Object logit_bias;
|
||||
private String user;
|
||||
|
||||
public String getModel() {
|
||||
return model;
|
||||
}
|
||||
|
||||
public void setModel(String model) {
|
||||
this.model = model;
|
||||
}
|
||||
|
||||
public List<Message> getMessages() {
|
||||
return messages;
|
||||
}
|
||||
|
||||
public void setMessages(List<Message> messages) {
|
||||
this.messages = messages;
|
||||
}
|
||||
|
||||
public Double getTemperature() {
|
||||
return temperature;
|
||||
}
|
||||
|
||||
public void setTemperature(Double temperature) {
|
||||
this.temperature = temperature;
|
||||
}
|
||||
|
||||
public Double getTop_p() {
|
||||
return top_p;
|
||||
}
|
||||
|
||||
public void setTop_p(Double top_p) {
|
||||
this.top_p = top_p;
|
||||
}
|
||||
|
||||
public Integer getN() {
|
||||
return n;
|
||||
}
|
||||
|
||||
public void setN(Integer n) {
|
||||
this.n = n;
|
||||
}
|
||||
|
||||
public Boolean getStream() {
|
||||
return stream;
|
||||
}
|
||||
|
||||
public void setStream(Boolean stream) {
|
||||
this.stream = stream;
|
||||
}
|
||||
|
||||
public List<String> getStop() {
|
||||
return stop;
|
||||
}
|
||||
|
||||
public void setStop(List<String> stop) {
|
||||
this.stop = stop;
|
||||
}
|
||||
|
||||
public Integer getMax_tokens() {
|
||||
return max_tokens;
|
||||
}
|
||||
|
||||
public void setMax_tokens(Integer max_tokens) {
|
||||
this.max_tokens = max_tokens;
|
||||
}
|
||||
|
||||
public Double getPresence_penalty() {
|
||||
return presence_penalty;
|
||||
}
|
||||
|
||||
public void setPresence_penalty(Double presence_penalty) {
|
||||
this.presence_penalty = presence_penalty;
|
||||
}
|
||||
|
||||
public Double getFrequency_penalty() {
|
||||
return frequency_penalty;
|
||||
}
|
||||
|
||||
public void setFrequency_penalty(Double frequency_penalty) {
|
||||
this.frequency_penalty = frequency_penalty;
|
||||
}
|
||||
|
||||
public Object getLogit_bias() {
|
||||
return logit_bias;
|
||||
}
|
||||
|
||||
public void setLogit_bias(Object logit_bias) {
|
||||
this.logit_bias = logit_bias;
|
||||
}
|
||||
|
||||
public String getUser() {
|
||||
return user;
|
||||
}
|
||||
|
||||
public void setUser(String user) {
|
||||
this.user = user;
|
||||
}
|
||||
}
|
||||
@ -0,0 +1,67 @@
|
||||
package xyz.wbsite.achat.core.chat;
|
||||
|
||||
/**
|
||||
* 文本补全请求
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class CompletionRequest {
|
||||
private String model;
|
||||
private String prompt;
|
||||
private boolean stream;
|
||||
|
||||
private Double temperature;
|
||||
private Integer max_tokens;
|
||||
private Double top_p;
|
||||
private Integer n;
|
||||
|
||||
public String getModel() {
|
||||
return model;
|
||||
}
|
||||
|
||||
public void setModel(String model) {
|
||||
this.model = model;
|
||||
}
|
||||
|
||||
public String getPrompt() {
|
||||
return prompt;
|
||||
}
|
||||
|
||||
public void setPrompt(String prompt) {
|
||||
this.prompt = prompt;
|
||||
}
|
||||
|
||||
public Integer getMax_tokens() {
|
||||
return max_tokens;
|
||||
}
|
||||
|
||||
public void setMax_tokens(Integer max_tokens) {
|
||||
this.max_tokens = max_tokens;
|
||||
}
|
||||
|
||||
public Double getTemperature() {
|
||||
return temperature;
|
||||
}
|
||||
|
||||
public void setTemperature(Double temperature) {
|
||||
this.temperature = temperature;
|
||||
}
|
||||
|
||||
public Double getTop_p() {
|
||||
return top_p;
|
||||
}
|
||||
|
||||
public void setTop_p(Double top_p) {
|
||||
this.top_p = top_p;
|
||||
}
|
||||
|
||||
public Integer getN() {
|
||||
return n;
|
||||
}
|
||||
|
||||
public void setN(Integer n) {
|
||||
this.n = n;
|
||||
}
|
||||
}
|
||||
@ -1,22 +1,103 @@
|
||||
package xyz.wbsite.achat.core.event;
|
||||
|
||||
import xyz.wbsite.achat.core.base.Event;
|
||||
|
||||
/**
|
||||
* 完成事件
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class CompleteEvent extends Event {
|
||||
|
||||
public CompleteEvent(String sid) {
|
||||
super(sid);
|
||||
setType("complete");
|
||||
}
|
||||
|
||||
public static CompleteEvent of(String sid) {
|
||||
return new CompleteEvent(sid);
|
||||
}
|
||||
}
|
||||
//package xyz.wbsite.achat.core.event;
|
||||
//
|
||||
//import xyz.wbsite.achat.core.Event;
|
||||
//
|
||||
///**
|
||||
// * 完成事件
|
||||
// * 用于标识流式响应的结束
|
||||
// *
|
||||
// * @author wangbing
|
||||
// * @version 0.0.1
|
||||
// * @since 1.8
|
||||
// */
|
||||
//public class CompleteEvent extends Event {
|
||||
//
|
||||
// /**
|
||||
// * 完整响应内容
|
||||
// */
|
||||
// private String content;
|
||||
//
|
||||
// /**
|
||||
// * 构造函数
|
||||
// *
|
||||
// * @param sid 会话ID
|
||||
// */
|
||||
// public CompleteEvent(String sid) {
|
||||
// super();
|
||||
// this.setSid(sid);
|
||||
// this.setObject("chat.completion");
|
||||
// }
|
||||
//
|
||||
// /**
|
||||
// * 生成的令牌总数
|
||||
// */
|
||||
// private Integer completionTokens;
|
||||
//
|
||||
// /**
|
||||
// * 提示词的令牌数量
|
||||
// */
|
||||
// private Integer promptTokens;
|
||||
//
|
||||
// /**
|
||||
// * 总令牌数量
|
||||
// */
|
||||
// private Integer totalTokens;
|
||||
//
|
||||
// /**
|
||||
// * 完成状态
|
||||
// */
|
||||
// private String finishReason;
|
||||
//
|
||||
// /**
|
||||
// * 生成用时（毫秒）
|
||||
// */
|
||||
// private Long generationTime;
|
||||
//
|
||||
// public String getContent() {
|
||||
// return content;
|
||||
// }
|
||||
//
|
||||
// public void setContent(String content) {
|
||||
// this.content = content;
|
||||
// }
|
||||
//
|
||||
// public Integer getCompletionTokens() {
|
||||
// return completionTokens;
|
||||
// }
|
||||
//
|
||||
// public void setCompletionTokens(Integer completionTokens) {
|
||||
// this.completionTokens = completionTokens;
|
||||
// }
|
||||
//
|
||||
// public Integer getPromptTokens() {
|
||||
// return promptTokens;
|
||||
// }
|
||||
//
|
||||
// public void setPromptTokens(Integer promptTokens) {
|
||||
// this.promptTokens = promptTokens;
|
||||
// }
|
||||
//
|
||||
// public Integer getTotalTokens() {
|
||||
// return totalTokens;
|
||||
// }
|
||||
//
|
||||
// public void setTotalTokens(Integer totalTokens) {
|
||||
// this.totalTokens = totalTokens;
|
||||
// }
|
||||
//
|
||||
// public String getFinishReason() {
|
||||
// return finishReason;
|
||||
// }
|
||||
//
|
||||
// public void setFinishReason(String finishReason) {
|
||||
// this.finishReason = finishReason;
|
||||
// }
|
||||
//
|
||||
// public Long getGenerationTime() {
|
||||
// return generationTime;
|
||||
// }
|
||||
//
|
||||
// public void setGenerationTime(Long generationTime) {
|
||||
// this.generationTime = generationTime;
|
||||
// }
|
||||
//}
|
||||
@ -0,0 +1,66 @@
|
||||
//package xyz.wbsite.achat.core.event;
|
||||
//
|
||||
//import xyz.wbsite.achat.core.Event;
|
||||
//
|
||||
///**
|
||||
// * 开始推送事件
|
||||
// * 用于标识流式响应的开始
|
||||
// *
|
||||
// * @author wangbing
|
||||
// * @version 0.0.1
|
||||
// * @since 1.8
|
||||
// */
|
||||
//public class StartEvent extends Event {
|
||||
//
|
||||
// /**
|
||||
// * 提示词令牌数量
|
||||
// */
|
||||
// private Integer promptTokens;
|
||||
//
|
||||
// /**
|
||||
// * 最大令牌数量限制
|
||||
// */
|
||||
// private Integer maxTokens;
|
||||
//
|
||||
// /**
|
||||
// * 温度参数
|
||||
// */
|
||||
// private Double temperature;
|
||||
//
|
||||
// /**
|
||||
// * 随机种子
|
||||
// */
|
||||
// private Integer seed;
|
||||
//
|
||||
// public Integer getPromptTokens() {
|
||||
// return promptTokens;
|
||||
// }
|
||||
//
|
||||
// public void setPromptTokens(Integer promptTokens) {
|
||||
// this.promptTokens = promptTokens;
|
||||
// }
|
||||
//
|
||||
// public Integer getMaxTokens() {
|
||||
// return maxTokens;
|
||||
// }
|
||||
//
|
||||
// public void setMaxTokens(Integer maxTokens) {
|
||||
// this.maxTokens = maxTokens;
|
||||
// }
|
||||
//
|
||||
// public Double getTemperature() {
|
||||
// return temperature;
|
||||
// }
|
||||
//
|
||||
// public void setTemperature(Double temperature) {
|
||||
// this.temperature = temperature;
|
||||
// }
|
||||
//
|
||||
// public Integer getSeed() {
|
||||
// return seed;
|
||||
// }
|
||||
//
|
||||
// public void setSeed(Integer seed) {
|
||||
// this.seed = seed;
|
||||
// }
|
||||
//}
|
||||
@ -0,0 +1,80 @@
|
||||
package xyz.wbsite.achat.core.model;
|
||||
|
||||
import java.util.List;
|
||||
|
||||
/**
|
||||
* OpenAI模型对象 - 符合OpenAI官方API规范
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class Model {
|
||||
private String id;
|
||||
private String object;
|
||||
private long created;
|
||||
private String owned_by;
|
||||
private List<Permission> permission;
|
||||
private String root;
|
||||
private String parent;
|
||||
|
||||
// Getters and Setters
|
||||
public String getId() { return id; }
|
||||
public void setId(String id) { this.id = id; }
|
||||
public String getObject() { return object; }
|
||||
public void setObject(String object) { this.object = object; }
|
||||
public long getCreated() { return created; }
|
||||
public void setCreated(long created) { this.created = created; }
|
||||
public String getOwned_by() { return owned_by; }
|
||||
public void setOwned_by(String owned_by) { this.owned_by = owned_by; }
|
||||
public List<Permission> getPermission() { return permission; }
|
||||
public void setPermission(List<Permission> permission) { this.permission = permission; }
|
||||
public String getRoot() { return root; }
|
||||
public void setRoot(String root) { this.root = root; }
|
||||
public String getParent() { return parent; }
|
||||
public void setParent(String parent) { this.parent = parent; }
|
||||
|
||||
/**
|
||||
* 模型权限对象
|
||||
*/
|
||||
public static class Permission {
|
||||
private String id;
|
||||
private String object;
|
||||
private long created;
|
||||
private boolean allow_create_engine;
|
||||
private boolean allow_sampling;
|
||||
private boolean allow_logprobs;
|
||||
private boolean allow_search_indices;
|
||||
private boolean allow_view;
|
||||
private boolean allow_fine_tuning;
|
||||
private String organization;
|
||||
private String group;
|
||||
private boolean is_blocking;
|
||||
|
||||
// Getters and Setters
|
||||
public String getId() { return id; }
|
||||
public void setId(String id) { this.id = id; }
|
||||
public String getObject() { return object; }
|
||||
public void setObject(String object) { this.object = object; }
|
||||
public long getCreated() { return created; }
|
||||
public void setCreated(long created) { this.created = created; }
|
||||
public boolean isAllow_create_engine() { return allow_create_engine; }
|
||||
public void setAllow_create_engine(boolean allow_create_engine) { this.allow_create_engine = allow_create_engine; }
|
||||
public boolean isAllow_sampling() { return allow_sampling; }
|
||||
public void setAllow_sampling(boolean allow_sampling) { this.allow_sampling = allow_sampling; }
|
||||
public boolean isAllow_logprobs() { return allow_logprobs; }
|
||||
public void setAllow_logprobs(boolean allow_logprobs) { this.allow_logprobs = allow_logprobs; }
|
||||
public boolean isAllow_search_indices() { return allow_search_indices; }
|
||||
public void setAllow_search_indices(boolean allow_search_indices) { this.allow_search_indices = allow_search_indices; }
|
||||
public boolean isAllow_view() { return allow_view; }
|
||||
public void setAllow_view(boolean allow_view) { this.allow_view = allow_view; }
|
||||
public boolean isAllow_fine_tuning() { return allow_fine_tuning; }
|
||||
public void setAllow_fine_tuning(boolean allow_fine_tuning) { this.allow_fine_tuning = allow_fine_tuning; }
|
||||
public String getOrganization() { return organization; }
|
||||
public void setOrganization(String organization) { this.organization = organization; }
|
||||
public String getGroup() { return group; }
|
||||
public void setGroup(String group) { this.group = group; }
|
||||
public boolean isIs_blocking() { return is_blocking; }
|
||||
public void setIs_blocking(boolean is_blocking) { this.is_blocking = is_blocking; }
|
||||
}
|
||||
}
|
||||
@ -0,0 +1,21 @@
|
||||
package xyz.wbsite.achat.core.model;
|
||||
|
||||
import java.util.List;
|
||||
|
||||
/**
|
||||
* OpenAI模型列表响应 - 符合OpenAI官方API规范
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public class ModelListResponse {
|
||||
private String object;
|
||||
private List<Model> data;
|
||||
|
||||
// Getters and Setters
|
||||
public String getObject() { return object; }
|
||||
public void setObject(String object) { this.object = object; }
|
||||
public List<Model> getData() { return data; }
|
||||
public void setData(List<Model> data) { this.data = data; }
|
||||
}
|
||||
@ -0,0 +1,18 @@
|
||||
package xyz.wbsite.achat.core.service;
|
||||
|
||||
import xyz.wbsite.achat.core.chat.ChatCompletionRequest;
|
||||
import xyz.wbsite.achat.core.message.StreamEmitter;
|
||||
|
||||
/**
|
||||
* 推理生成器
|
||||
* <p>
|
||||
* 抽象出来用于生成消息的实现层
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public interface ChatCompletionGenerator {
|
||||
|
||||
void on(StreamEmitter emitter, ChatCompletionRequest chatCompletionRequest);
|
||||
}
|
||||
@ -0,0 +1,16 @@
|
||||
package xyz.wbsite.achat.core.service;
|
||||
|
||||
import xyz.wbsite.achat.core.chat.ChatCompletionRequest;
|
||||
import xyz.wbsite.achat.core.chat.ChatCompletionResponse;
|
||||
import xyz.wbsite.achat.core.chat.CompletionRequest;
|
||||
import xyz.wbsite.achat.core.chat.CompletionResponse;
|
||||
import xyz.wbsite.achat.core.message.StreamEmitter;
|
||||
|
||||
public interface ChatService {
|
||||
|
||||
CompletionResponse prompt(CompletionRequest request);
|
||||
|
||||
ChatCompletionResponse chat(ChatCompletionRequest request);
|
||||
|
||||
StreamEmitter streamChat(ChatCompletionRequest request);
|
||||
}
|
||||
@ -1,18 +0,0 @@
|
||||
package xyz.wbsite.achat.core.service;
|
||||
|
||||
import xyz.wbsite.achat.core.message.MessageSseEmitter;
|
||||
import xyz.wbsite.achat.core.base.Message;
|
||||
|
||||
/**
|
||||
* 消息生成器
|
||||
* <p>
|
||||
* 抽象出来用于生成消息的实现层
|
||||
*
|
||||
* @author wangbing
|
||||
* @version 0.0.1
|
||||
* @since 1.8
|
||||
*/
|
||||
public interface MessageGenerator {
|
||||
|
||||
void on(MessageSseEmitter emitter, Message message);
|
||||
}
|
||||
@ -0,0 +1,110 @@
|
||||
package xyz.wbsite.achat.core.service.impl;
|
||||
|
||||
import xyz.wbsite.achat.core.chat.ChatCompletionRequest;
|
||||
import xyz.wbsite.achat.core.chat.ChatCompletionResponse;
|
||||
import xyz.wbsite.achat.core.chat.CompletionRequest;
|
||||
import xyz.wbsite.achat.core.chat.CompletionResponse;
|
||||
import xyz.wbsite.achat.core.message.Message;
|
||||
import xyz.wbsite.achat.core.message.Role;
|
||||
import xyz.wbsite.achat.core.message.StreamEmitter;
|
||||
import xyz.wbsite.achat.core.service.ChatService;
|
||||
|
||||
import java.util.ArrayList;
|
||||
import java.util.List;
|
||||
|
||||
public class ChatServiceSampleImpl implements ChatService {
|
||||
@Override
|
||||
public CompletionResponse prompt(CompletionRequest request) {
|
||||
CompletionResponse response = new CompletionResponse();
|
||||
response.setObject("chat.completion");
|
||||
response.setCreated(System.currentTimeMillis() / 1000);
|
||||
response.setModel(request.getModel());
|
||||
|
||||
// List<Choice> choices = new ArrayList<>();
|
||||
// choices.add(Choice.builder().index(0).message(Message.builder().role(Role.ASSISTANT).content("您好,我还没有接入AI,请接入后再试!").build()).finish_reason("stop").build());
|
||||
// response.setChoices(choices);
|
||||
// response.setUsage(Usage.builder().prompt_tokens(10).completion_tokens(20).total_tokens(30).build());
|
||||
|
||||
return CompletionResponse.builder()
|
||||
.id("chatcmpl-" + System.currentTimeMillis())
|
||||
.object("chat.completion")
|
||||
.created(System.currentTimeMillis() / 1000)
|
||||
.model(request.getModel())
|
||||
.withChoices(choices -> {
|
||||
// Choice choice1 = new Choice();
|
||||
CompletionResponse.Choice
|
||||
choice1.setIndex(0);
|
||||
choice1.setMessage(new Message());
|
||||
choice1.setFinish_reason("stop");
|
||||
choices.add(choice1);
|
||||
|
||||
Choice choice2 = new Choice();
|
||||
choice2.setIndex(1);
|
||||
choice2.setMessage(new Message());
|
||||
choice2.setFinish_reason("stop");
|
||||
choices.add(choice2);
|
||||
})
|
||||
|
||||
.usage(CompletionResponse.UsageBuilder().prompt_tokens(10).completion_tokens(10).total_tokens(10).build())
|
||||
.build();
|
||||
}
|
||||
|
||||
@Override
|
||||
public ChatCompletionResponse chat(ChatCompletionRequest request) {
|
||||
ChatCompletionResponse response = new ChatCompletionResponse();
|
||||
response.setId("chatcmpl-" + System.currentTimeMillis());
|
||||
response.setObject("chat.completion");
|
||||
response.setCreated(System.currentTimeMillis() / 1000);
|
||||
response.setModel(request.getModel());
|
||||
|
||||
List<Choice> choices = new ArrayList<>();
|
||||
choices.add(Choice.builder().index(0).message(Message.builder().role(Role.ASSISTANT).content("您好,我还没有接入AI,请接入后再试!").build()).finish_reason("stop").build());
|
||||
response.setChoices(choices);
|
||||
response.setUsage(Usage.builder().prompt_tokens(10).completion_tokens(20).total_tokens(30).build());
|
||||
return response;
|
||||
}
|
||||
|
||||
@Override
|
||||
public StreamEmitter streamChat(ChatCompletionRequest request) {
|
||||
// 验证请求参数
|
||||
if (request.getModel() == null) {
|
||||
throw new IllegalArgumentException("模型不能为空");
|
||||
}
|
||||
if (request.getMessages() == null || request.getMessages().isEmpty()) {
|
||||
throw new IllegalArgumentException("消息不能为空");
|
||||
}
|
||||
return StreamEmitter.builder()
|
||||
.chatCompletionRequest(request)
|
||||
.build();
|
||||
|
||||
// SseEmitter emitter = new SseEmitter(Long.MAX_VALUE);
|
||||
// 在单独的线程中处理流式响应
|
||||
// new Thread(() -> {
|
||||
// try {
|
||||
// // 模拟流式响应的逻辑
|
||||
// // 实际应用中应从服务层获取流式数据并发送
|
||||
// String id = "chatcmpl-" + System.currentTimeMillis();
|
||||
// long created = System.currentTimeMillis() / 1000;
|
||||
// String model = request.getModel();
|
||||
//
|
||||
// // 发送初始数据块
|
||||
// ChatCompletionChunk chunk = new ChatCompletionChunk();
|
||||
// chunk.setId(id);
|
||||
// chunk.setObject("chat.completion.chunk");
|
||||
// chunk.setCreated(created);
|
||||
// chunk.setModel(model);
|
||||
// // chunk.setChoices(/* 实际的选择项列表 */);
|
||||
// emitter.send(chunk, MediaType.APPLICATION_JSON);
|
||||
//
|
||||
// // 发送更多数据块...
|
||||
//
|
||||
// // 发送完成信号
|
||||
// emitter.complete();
|
||||
// } catch (Exception e) {
|
||||
// emitter.completeWithError(e);
|
||||
// }
|
||||
// }).start();
|
||||
//
|
||||
// return emitter;
|
||||
}
|
||||
}
|
||||
Loading…
Reference in new issue