【源力觉醒 创作者计划】_文心4.5开源模型-巅峰对决-DeepSeek-实测之给暖男的惊喜(少男版本)

<pre class="brush:php;toolbar:false;">import requestsimport jsonimport timefrom statistics import meandef send_request():    """发送单次请求并返回响应时间和结果"""    # 设置API端点    url = "http://127.0.0.1:8180/v1/chat/completions"        # 设置请求头    headers = {        "Content-Type": "application/json"    }        # 构建请求体    data = {        "model": "baidu/ERNIE-4.5-0.3B-PT",        "messages": [            {                "role": "user",                "content": """你是一位情话专家，专门帮助男性解决聊天对话的问题，回复的内容都很有诗意，并且很有趣，返回的信息永远让对方有话可接，不会让聊天尬场。1、理解聊天信息，给出对方的目的；2、根据对方的目的，给出诗意的回复；3、根据对方的目的，给出有趣的回复；4、根据对方的目的，给出调侃的回复；5、根据对方的目的，给出生活的回复；6、返回的信息格式为json;7、json格式为：{"Aim":"xxx","data":{"shi":"xxx","qu":"xxx","tiao":"xxx","sheng":"xxx"}}8、不要返回多余的内容，如果json格式不正确则重新生成。此次聊天问题是用户输入的问题。                """            }        ]    }        try:        # 记录开始时间        start_time = time.time()                # 发送请求        response = requests.post(url, headers=headers, data=json.dumps(data))                # 检查响应状态        response.raise_for_status()                # 解析响应        result = response.json()                # 计算响应时间（秒）        response_time = time.time() - start_time                # 获取token数量        completion_tokens = result.get('usage', {}).get('completion_tokens', 0)        prompt_tokens = result.get('usage', {}).get('prompt_tokens', 0)        total_tokens = result.get('usage', {}).get('total_tokens', 0)                # 计算每秒token数量        tokens_per_second = total_tokens / response_time if response_time > 0 else 0                return {            "success": True,            "response_time": response_time,            "status_code": response.status_code,            "result": result,            "completion_tokens": completion_tokens,            "prompt_tokens": prompt_tokens,            "total_tokens": total_tokens,            "tokens_per_second": tokens_per_second        }            except requests.exceptions.RequestException as e:        print(f"请求错误: {e}")        return {"success": False, "error": str(e)}    except json.JSONDecodeError as e:        print(f"JSON解析错误: {e}")        return {"success": False, "error": f"JSON解析错误: {str(e)}"}    except Exception as e:        print(f"发生错误: {e}")        return {"success": False, "error": str(e)}def main():    # 请求次数    request_count = 1        # 存储统计数据    response_times = []    tokens_per_second_list = []    completion_tokens_list = []    prompt_tokens_list = []    total_tokens_list = []        # 存储成功请求数    success_count = 0        print(f"开始执行 {request_count} 次请求...\n")        # 执行多次请求    for i in range(request_count):        print(f"请求 {i+1}/{request_count} 执行中...")                # 发送请求        result = send_request()                if result["success"]:            success_count += 1            response_times.append(result["response_time"])            tokens_per_second_list.append(result["tokens_per_second"])            completion_tokens_list.append(result["completion_tokens"])            prompt_tokens_list.append(result["prompt_tokens"])            total_tokens_list.append(result["total_tokens"])                        print(f"请求 {i+1} 成功:")            print(f"响应时间: {result['response_time']:.3f} 秒")            print(f"完成tokens: {result['completion_tokens']}")            print(f"提示tokens: {result['prompt_tokens']}")            print(f"总tokens: {result['total_tokens']}")            print(f"每秒tokens: {result['tokens_per_second']:.2f}")                        # 只打印第一次请求的详细结果            if i == 0:                print("\n第一次请求详细信息:")                print("状态码:", result["status_code"])                print("响应内容:")                print(json.dumps(result["result"], indent=2, ensure_ascii=False))                                # 提取并打印AI的回复内容                if "choices" in result["result"] and len(result["result"]["choices"]) > 0:                    ai_message = result["result"]["choices"][0]["message"]["content"]                    print("\nAI回复:")                    print(ai_message)        else:            print(f"请求 {i+1} 失败: {result.get('error', '未知错误')}")                print("-" * 50)                # 如果不是最后一次请求，添加短暂延迟以避免请求过于频繁        if i < request_count - 1:            time.sleep(0.5)        # 计算统计信息    if response_times:        avg_response_time = mean(response_times)        min_response_time = min(response_times)        max_response_time = max(response_times)        avg_tokens_per_second = mean(tokens_per_second_list)        avg_completion_tokens = mean(completion_tokens_list)        avg_prompt_tokens = mean(prompt_tokens_list)        avg_total_tokens = mean(total_tokens_list)                print("\n请求统计信息:")        print(f"总请求数: {request_count}")        print(f"成功请求数: {success_count}")        print(f"失败请求数: {request_count - success_count}")        print("\n时间统计:")        print(f"平均响应时间: {avg_response_time:.3f} 秒")        print(f"最小响应时间: {min_response_time:.3f} 秒")        print(f"最大响应时间: {max_response_time:.3f} 秒")        print("\nToken统计:")        print(f"平均完成tokens: {avg_completion_tokens:.1f}")        print(f"平均提示tokens: {avg_prompt_tokens:.1f}")        print(f"平均总tokens: {avg_total_tokens:.1f}")        print(f"平均每秒tokens: {avg_tokens_per_second:.2f}")    else:        print("\n所有请求均失败，无法计算统计信息。")if __name__ == "__main__":    main()

<pre class="brush:php;toolbar:false;"># coding=utf-8 import requestsimport jsonimport reimport datetime  # 添加datetime模块if __name__ == '__main__':    # 记录请求时间    request_time = datetime.datetime.now()    request_time_str = request_time.strftime("%Y-%m-%d %H:%M:%S.%f")[:-3]        url = "https://api.modelarts-maas.com/v1/chat/completions" # API地址    api_key = "PRABeszTlQ_h0SR4Hjs8OkQHJmwRUihQ8I0JPP8kh-eNN2ORnqn189CVSh8f3910oIlhm_EqZEEWL50SG_tCKw"  # 把yourApiKey替换成已获取的API Key         # Send request.    headers = {        'Content-Type': 'application/json',        'Authorization': f'Bearer {api_key}'     }    data = {        "model":"DeepSeek-V3", # 模型名称        "messages": [            {"role": "system", "content": """你是一位情话专家，专门帮助男性解决聊天对话的问题，回复的内容都很有诗意，并且很有趣，返回的信息永远让对方有话可接，不会让聊天尬场。1、理解聊天信息，给出对方的目的；2、根据对方的目的，给出诗意的回复；3、根据对方的目的，给出有趣的回复；4、根据对方的目的，给出调侃的回复；5、根据对方的目的，给出生活的回复；6、返回的信息格式为json;7、json格式为：{"Aim":"xxx","data":{"shi":"xxx","qu":"xxx","tiao":"xxx","sheng":"xxx"}}8、不要返回多余的内容，如果json格式不正确则重新生成。此次聊天问题是用户输入的问题。"""},            {"role": "user", "content": "我想你了。"}        ],        # 是否开启流式推理, 默认为False, 表示不开启流式推理        "stream": False,        # 在流式输出时是否展示使用的token数目。只有当stream为True时改参数才会生效。        # "stream_options": { "include_usage": True },        # 控制采样随机性的浮点数，值较低时模型更具确定性，值较高时模型更具创造性。"0"表示贪婪取样。默认为0.6。        "temperature": 0.6    }        # 打印请求时间    print(f"请求时间: {request_time_str}")        response = requests.post(url, headers=headers, data=json.dumps(data), verify=False)        # 记录响应时间    response_time = datetime.datetime.now()    response_time_str = response_time.strftime("%Y-%m-%d %H:%M:%S.%f")[:-3]        json_str = response.json()['choices'][0]['message']['content']    # 返回效果：    aim = re.search(r'"Aim":\s*"([^"]+)"', json_str).group(1)    shi = re.search(r'"shi":\s*"([^"]+)"', json_str).group(1)      qu = re.search(r'"qu":\s*"([^"]+)"', json_str).group(1)    tiao = re.search(r'"tiao":\s*"([^"]+)"', json_str).group(1)    sheng = re.search(r'"sheng":\s*"([^"]+)"', json_str).group(1)        # 打印响应时间和耗时    print(f"响应时间: {response_time_str}")    print(f"请求耗时: {(response_time - request_time).total_seconds():.3f} 秒")    print("-" * 50)        print(aim)    print(shi)    print(qu)    print(tiao)    print(sheng)