博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
C#-采集百度贴吧内容
阅读量:2507 次
发布时间:2019-05-11

本文共 380 字,大约阅读时间需要 1 分钟。

基本原理是通过Request到html源码然后解析HTML标签。

首先用System.Net.WebResponse,System.Net.WebRequest两个方法通过url获取到html的string.

然后解析html标签,都说用正则是最合适的做法。

但由于学疏才浅,用了第三方的库HtmlAgilityPack.可以像XML那样获取结点。

HtmlAgilityPack有GetElementbyId,SelectSingleNode,SelectNodes,GetAttributeValue等方法,

InnerHtml,InnerText等主要属性,再加上一些复杂的字符串分析,基本上可以满足要求了。

数据存储依然用的是SQLite。但是这东西似乎并发时表现一般,而且经常会锁住。
所以开了50个线程取数据的同时还得lock住insert的过程。

转载地址:http://jalgb.baihongyu.com/

你可能感兴趣的文章
MySQL innert join、left join、right join等理解
查看>>
sdc时序约束
查看>>
NoC片上网络
查看>>
开源SoC整理
查看>>
【2020-3-21】Mac安装Homebrew慢,解决办法
查看>>
influxdb 命令行输出时间为 yyyy-MM-dd HH:mm:ss(年月日时分秒)的方法
查看>>
已知子网掩码,确定ip地址范围
查看>>
判断时间或者数字是否连续
查看>>
docker-daemon.json各配置详解
查看>>
Docker(一)使用阿里云容器镜像服务
查看>>
Docker(三) 构建镜像
查看>>
FFmpeg 新旧版本编码 API 的区别
查看>>
RecyclerView 源码深入解析——绘制流程、缓存机制、动画等
查看>>
Android 面试题整理总结(一)Java 基础
查看>>
Android 面试题整理总结(二)Java 集合
查看>>
学习笔记_vnpy实战培训day02
查看>>
学习笔记_vnpy实战培训day03
查看>>
VNPY- VnTrader基本使用
查看>>
VNPY - CTA策略模块策略开发
查看>>
VNPY - 事件引擎
查看>>