Python-使用scrapy框架实现网站爬取

  • Post author:
  • Post category:python

用scrapy框架实现对网页的爬取: 实现的步骤: 1.使用cmd命令行找到你要搭建框架的目录下 2.在cmd命令行中输入scrapy startproject +你想要的项目名 3.在cmd命令行中输入scrapy +genspider + 你想要的主程序名 + 你想要爬取的网站名 这样系统就会给你搭建一个scrapy框架 4.当框架搭建好后 使用浏览器的F12 功能找原网页的代码 像这样一样寻…

继续阅读 Python-使用scrapy框架实现网站爬取

基本Spring Cloud的微服务架构搭建及应用(一)

  • Post author:
  • Post category:其他

1、Spring Cloud介绍 Spring Cloud家族有许多成员: Spring Cloud Config - 配置管理工具包,集中化管理集群配置,目前支持本地存储、Git 以及 Subversion; Spring Cloud Bus - 事件、消息总线,用于在集群(例如,配置变化事件)中传播状态变化,可与 Spring Cloud Config 联合实现热部署; Spring Clou…

继续阅读 基本Spring Cloud的微服务架构搭建及应用(一)

语音助手——助手中用到的那些分类模型

  • Post author:
  • Post category:其他

这一章,我们来一起看一下语音助手中用到的那些分类模型。首先,什么地方需要用到分类模型呢?有以下几种情况: 场景分类 任务、闲聊、问答分类 BOT内部分类 这一类分类主要起的作用为: 辅助DM进行BOT的分发和排序 避免全量query流经某个BOT,减轻下游服务压力 各个BOT应该有具备识别query是否属于自己领域的能力 除此之外,还有一些地方也会用到分类模型,比如:情感识别,意图识别等。这里主要…

继续阅读 语音助手——助手中用到的那些分类模型

json字符串与java 类型的相互转换

  • Post author:
  • Post category:java

//java对象转json字符串 public static String toJsonStr(Object obj) { ObjectMapper mapper = new ObjectMapper(); try { return mapper.writeValueAsString(obj); } catch (JsonProcessingException e) { e.printStackT…

继续阅读 json字符串与java 类型的相互转换

类的四种方法

  • Post author:
  • Post category:其他

'''''' ''' 类中的方法分为四种: 1、实例方法 2、魔术方法 __xxx__ 特殊用途,一般不需要我们明确调用 3、类方法 4、静态方法 ''' # class fish(object): # def __init__(self,age):#构造方法 # self.age=age # # def __del__(self):#类不用,销毁变量时会触碰析构变量 # # print("我是析…

继续阅读 类的四种方法

group by,having,sum的使用例子

  • Post author:
  • Post category:其他

需求: 撈取3月份儲值總金額大於等於5000點的資料 。 兩張表,部分結構如下: 儲值表pays id mid point pay_time xxxx xxxx xxx xxxx xxx xxxx xxxx xxxx 會員表members id user_name xxxx xxxx xxxx xxx 1.使用group by 先分組查看3月份每個會員的儲值記錄。 select m.user_na…

继续阅读 group by,having,sum的使用例子

MinIO之Windows环境的搭建

  • Post author:
  • Post category:其他

官网地址 https://min.io/ http://www.minio.org.cn/ 下载 https://min.io/download https://dl.min.io/server/minio/release/windows-amd64/minio.exe 安装 3.1、将下载下来的minio.exe放入D:\Net_Program\Net_MinIO中 3.2、以管理员身份运行CM…

继续阅读 MinIO之Windows环境的搭建

Pytorch精读

  • Post author:
  • Post category:其他

构建模型 最简单的Sequential顺序构建模型,或者通过继承nn.Module类构建指定模型 nn.Sequential() nn.add_module() 查看样本个数: from torchkeras import summary summary(net, input_shape=(15,)) 张量数据结构 test.dim(), 标量为0维, 向量为1维,矩阵为2维 shape()和si…

继续阅读 Pytorch精读

platform总线设备与驱动

  • Post author:
  • Post category:其他

目录 platform总线、设备、驱动 platform设备 platform总线 platform驱动 platform总线、设备、驱动 Linux2.6以后的设备驱动模型中,需要关注总线设备和驱动这三个实体,总线将设备和驱动绑定,在系统注册一个设备的时候,总线会去匹配驱动,注册驱动的时候,总线回去匹配相应的设备,匹配工作由总线完成 L inux中有一种总线叫做platform总线,相应的设备称…

继续阅读 platform总线设备与驱动

dpdk ip分片报文重组处理

  • Post author:
  • Post category:其他

dpdk ip报文重组及分片API及处理逻辑介绍 DPDK的分片和重组实现零拷贝,详细介绍可以参阅 DPDK分片与重组用户手则 相关数据结构 /* * Fragmented packet to reassemble. * First two entries in the frags[] array are for the last and first fragments. */ struct ip…

继续阅读 dpdk ip分片报文重组处理