首页 > 网站 > WEB开发 > 正文

nodejs爬虫数据抓取 -- 问题总结

2024-04-27 14:06:27
字体:
来源:转载
供稿:网友

nodejs爬虫数据抓取 -- 问题总结

一 返回的信息提示 Something went wrong

request模块请求出现未知错误

其中,所用代码如下(无User-Agent部分)

问题多次派查无果,包括:

  1:postman请求正常

  2. curl 请求正常

  解决办法:

为请求添加user-agent头,如取消上注释部分。(我发现,只要有了user-agent这个key,无论其value是否为空,都可以正常返回了)

所以对于模拟请求,有时候相应的http头部信息还是必须的。


发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表