Spark 离线开发框架设计与实现

  • Post author:
  • Post category:其他

一、背景 随着 Spark 以及其社区的不断发展,Spark 本身技术也在不断成熟,Spark 在技术架构和性能上的优势越来越明显,目前大多数公司在大数据处理中都倾向使用 Spark。Spark 支持多种语言的开发,如 Scala、Java、Sql、Python 等。 Spark SQL 使用标准的数据连接,与 Hive 兼容,易与其它语言 API 整合,表达清晰、简单易上手、学习成本低,是开发者…

继续阅读 Spark 离线开发框架设计与实现

多元有序logistic回归_SPSSAU教程05:相关回归分析指标解读

  • Post author:
  • Post category:其他

高中政治课上,大家一定都听过,唯物辩证法中讲,万事万物都处于普遍的联系之中。 从数据分析的角度看,所有事物之间存在着两种关系:函数关系和统计关系。 函数关系 是指两事物之间存在着一种一一对应的关系,当一个X确定,对应的变量Y也可以随之完全确定(即有唯一值)。比如乘车计费,里程数和费用之间,当行驶的里程确定,也可以得到唯一确定的收费数。 然而现实生活中,事物之间并不全都是一一对应的关系,因此另一种统…

继续阅读 多元有序logistic回归_SPSSAU教程05:相关回归分析指标解读

Select From (Select from) as Alias

  • Post author:
  • Post category:其他

Sometimes we will get a column which contains a series of calculation such as ‘ + ‘or’ - ‘or’ * ‘or’ / ‘, meanwhile, we need use this result to do some other calculations as a result to be a final col…

继续阅读 Select From (Select from) as Alias

Solidity学习过程:mapping映射

  • Post author:
  • Post category:solidity

pragma solidity^0.5.0; contract mappingTest{ //idmapping代表地址与id映射到了一起,namemapping代表id与名字的字符串映射到了一起 mapping(address => uint) idmapping;//0xAb8483F64d9C6d1EcF9b849Ae677dD3315835cb2 => 1 mapping(ui…

继续阅读 Solidity学习过程:mapping映射

Jsoup爬取网络内容(包括图片文件),保存到本地和保存到数据库(一)

  • Post author:
  • Post category:其他

背景: 项目需要某个区县的天气数据,需要从中国气象局的官网中进行爬取。但是,中国气象局服务器调用接口返回的数据没有我想要的信息,比如说是未来24小时的天气温度,气压,风速等信息,这些数据接口中都没有,那么只能从页面中进行获取,所以使用了Jsoup,有一些信息是图片的形式返回,需要将图片下载下来存储到数据库中,用到的数据库是postgres数据库。工具类是Hutool和Jsoup 爬取的目标信息 t…

继续阅读 Jsoup爬取网络内容(包括图片文件),保存到本地和保存到数据库(一)

05.Kafka配置文件详解

  • Post author:
  • Post category:其他

server.properties #此服务器的代理ID,默认为-1 broker.id=-1 #外部连接者要通过什么协议访问指定主机名和端口开放的 Kafka 服务,格式为:协议://ip:port,默认协议为PLAINTEXT,可以将主机名指定为0.0.0.0以绑定到所有接口listeners=PLAINTEXT://IP:9092 # 这组监听器是 Broker 用于对外发布的,主要用于外网…

继续阅读 05.Kafka配置文件详解

Linux命令更改时区

  • Post author:
  • Post category:linux

拿到新的服务器后,发现服务器的时区不对: 时区设置用tzselect 命令来实现: 执行tzselect命令 --> 选择Asia --> 选择China --> 选择1) Beijing Time >然后输入1。 执行完tzselect命令选择时区后,时区并没有更改,只是在命令最后提示你可以执行 TZ=’Asia/Shanghai’; export TZ 并将这行命令添加…

继续阅读 Linux命令更改时区

“Project is not a Java project” 之新建Maven项目遇到问题解决方案

  • Post author:
  • Post category:java

Java技术交流欢迎加群:587691476 今早没事在eclipse折腾下Maven,但是新建Maven项目后不能建立java文件名的Source floder文件夹,然后说根据网上教程去Project Facets中勾选动态web项目,没想到竟然连Project  Facets都没有。好吧,这才明白,我用的Eclipse不是 Java EE的!!!这公司的电脑原来使用的兄弟下了好多版本的Ecl…

继续阅读 “Project is not a Java project” 之新建Maven项目遇到问题解决方案

3个月学会Android开发!作为一名程序员我不忘初心,详细的Android学习指南

  • Post author:
  • Post category:其他

前言 笔者是某211非计算机相关专业2018届本科生,在校期间有半年多的互联网小公司实习经历。 毕业之后投递360 ,入职了360企业安全成为专门的前端开发工程师,有幸进入一个很赞的团队,遇到很棒的导师和leader ,成长杠杠的。 跳槽计划 工作一年多后,于今年七月有明确的跳槽计划,这个想法的导火线是4月份薪资不太理想。 此外,北京环境不太好,反正我是不太喜欢,待着也不舒服,当时就开始断断续续的…

继续阅读 3个月学会Android开发!作为一名程序员我不忘初心,详细的Android学习指南