本地大漠模型联调,阿里百炼token
This commit is contained in:
@@ -1,6 +1,8 @@
|
||||
package com.rj.service;
|
||||
|
||||
import com.alibaba.dashscope.aigc.generation.GenerationResult;
|
||||
import com.rj.common.AudioAnalysisSceneType;
|
||||
import com.rj.common.LocalLlmSummaryResult;
|
||||
import com.rj.entity.AudioTextAnalysisFurniture;
|
||||
|
||||
/**
|
||||
@@ -19,7 +21,7 @@ public interface IAudioTextAnalysisLlmService {
|
||||
* @param recordingText 录音转写文本
|
||||
* @return 大模型返回的原始内容(一般是 JSON 字符串或结构化文本)
|
||||
*/
|
||||
String generateSummaryByLLM(AudioAnalysisSceneType sceneType, String recordingText);
|
||||
GenerationResult generateSummaryByLLM(AudioAnalysisSceneType sceneType, String recordingText);
|
||||
|
||||
/**
|
||||
* 与 {@link #generateSummaryByLLM} 相同的提示词与场景逻辑,但通过本地 OpenAI 兼容接口调用大模型
|
||||
@@ -28,9 +30,9 @@ public interface IAudioTextAnalysisLlmService {
|
||||
*
|
||||
* @param sceneType 业务场景类型
|
||||
* @param recordingText 录音转写文本
|
||||
* @return 大模型返回的原始内容
|
||||
* @return 大模型返回的原始内容及 token 用量(若接口未返回 usage 则对应字段可能为 null)
|
||||
*/
|
||||
String generateSummaryByLocalLLM(AudioAnalysisSceneType sceneType, String recordingText);
|
||||
LocalLlmSummaryResult generateSummaryByLocalLLM(AudioAnalysisSceneType sceneType, String recordingText);
|
||||
|
||||
/**
|
||||
* 处理完整的业务逻辑:调用大模型生成总结,解析JSON,保存数据
|
||||
|
||||
Reference in New Issue
Block a user