nodejs流式反向代理ollama api示例代码
代码语言:nodejs
所属分类:其他
代码描述:nodejs流式反向代理ollama api示例代码
代码标签: nodejs 流式 反向 代理 ollama api 示例 代码
下面为部分代码预览,完整代码请点击下载或在bfwstudio webide中打开
const http = require('http'); const url = require('url'); const fs = require('fs'); const path = require('path'); const { exec, spawn } = require('child_process'); const httpProxy = require('http-proxy'); const os = require('os'); const axios = require('axios'); const { setTimeout } = require('timers'); // 创建一个 Map 来存储正在进行的请求 const activeRequests = new Map(); // 创建反向代理服务器 const proxy = httpProxy.createProxyServer({ ws: true }); // 监听 proxyReq 事件来获取后端请求对象 proxy.on('proxyReq', (proxyReq, req, res) => { //proxyReq.setHeader('Host', 'localhost:11434'); activeRequests.set(req, proxyReq); }); // 监听 proxyRes 事件来清理已完成的请求 proxy.on('proxyRes', (proxyRes, req, res) => { activeRequests.delete(req); }); // 监听错误事件 proxy.on('error', (err, req, res) => { console.error('Proxy error:', er.........完整代码请登录后点击上方下载按钮下载查看
网友评论0