python抓取百度baidu搜索引擎结果返回干净的markdown'正文文本代码
代码语言:python
所属分类:web系统
代码描述:python抓取百度baidu搜索引擎结果返回干净的markdown'正文文本代码,利用selenium爬取搜索结果,然后利用jina提取百度的每个搜索链接,转换成干净的markdown正文,这个可作为本地ai搜索的一个api接口使用。
代码标签: python 抓取 百度 baidu 搜索 引擎 结果 返回 干净 markdown' 正文 文本
下面为部分代码预览,完整代码请点击下载或在bfwstudio webide中打开
#!/usr/local/python3/bin/python3 # -*- coding: utf-8 -* from selenium import webdriver from selenium.webdriver.common.keys import Keys from time import sleep from bs4 import BeautifulSoup from selenium.webdriver.common.by import By from selenium.webdriver.support.ui import WebDriverWait from selenium.webdriver.support import expected_conditions as EC import requests def fetch_json_from_baidu_link(baidu_link): # 发送请求并获取重定向后的URL response = requests.get(baidu_link, allow_redirects=True) # 获取重定向后的真实URL real_url = "https://r.jina.ai/" + respon.........完整代码请登录后点击上方下载按钮下载查看
网友评论0