-
1、本科及以上学历,软件开发相关专业,5年以上服务端开发经验; 2、熟悉Python编程语言,熟悉Python常用框架,如FastAPI/Django等; 3、熟练使用MySQL、PostgreSQL等关系数据库,熟悉数据库优化及分库分表策略; 4、熟练使用Redis、MongoDB等NoSQL数据库,熟悉分布式消息队列; 5、熟悉区块链数字钱包开发,熟悉区块链节点搭建,有钱包实际项目开发经验者优先; 6、熟悉即时通讯IM开发,有实时音视频RTC项目开发经验者优先; 7、具备良好的分析解决问题能力,具有良好的产品意识,学习能力强,执行力好,积极乐观,认真负责,乐于协作。 岗位职责: 1.负责开发高性能后端服务。包括设计、开发、部署、优化。 2.编写人类友好的代码,且保证服务与代码质量。 3.参与产品设计,利用技术的角度提出意见与建议。 4.可居家办公。
-
公司位于佛山乐从新城世纪莲地铁广佛线,交通便利。请确定考虑到佛山发展再聊,谢谢! 兼职也可以 1爬虫框架与工具 熟练掌握 Scrapy、Pyspider 等主流框架,能够搭建分布式爬虫系统 熟悉 Selenium、PhantomJS 等自动化工具,应对动态渲染页面和反爬机制 2反爬对抗与逆向技术 具备验证码破解、JS逆向、APP逆向(如 Frida、Xposed)APP脱壳等实战经验 熟悉抓包工具(Charles、Fiddler)和协议分析(HTTP/HTTPS、WebSocket) 3数据处理与存储 精通数据清洗、结构化提取技术(如 XPath、BeautifulSoup),熟练使用 Pandas、NumPy 处理海量数据 掌握 MySQL、MongoDB、Redis 等数据库,具备调优及高并发存储经验 4系统架构与性能优化 熟悉分布式架构(如 Kubernetes、Docker Swarm),能够设计高可用、高性能的爬虫系统 具备实时监控、预警处理及日志分析能力,保障爬虫稳定性 通用技术要求 1编程基础 扎实的 Python 开发能力,熟悉多线程、异步编程及设计模式 了解其他语言(如 Java、JavaScript)及前端框架(Vue、React)为加分项 2运维与工程化 熟练使用 Linux 环境,掌握 Docker、Kubernetes 容器化技术 熟悉云服务(AWS、阿里云)及 DevOps 工具链(CI/CD) 交通便利,公司楼下就是地铁广佛线世纪莲地铁站
-
Python开发工业物联网IoT、工业大数据分析、智能制造等系统。 典型客户:福田康明斯、中车唐车、上汽通用、泛亚汽车、福田汽车、商发制造、广汽研究院等。 ## 任职要求 -**学历为本科及以上学历,计算机、物联网、机械、自动化、电子等专业 -1-3年Python开发经验 ## 技能要求 - 熟悉Python及常用库(Django、Flask、Falcon、Numpy、Pandas、Vaex、Matplotlib、Altair等) - 了解TypeScript(Angular)、JavaScript - 熟悉一种数据库:PostgreSQL(PLV8)、Oracle、MS SQL Server - 熟悉一种NoSQL: Redis、TimescaleDB、InfluxDB、Prometheus - 对Rust、Go、Lua、Nim等开发语言有兴趣学习 ## 其他要求 - 英文良好,可进行基本的英语交流者加分 - 数学基础较好 ## 业务领域 - 设备监控系统开发及实施(IIoT) - 达索Apriso实施、-MES开发及实施 - 工业大数据分析项目
-
1、精通python语言,精通scrapy爬虫框架; 2、 精通web抓取原理及技术,从结构化和非机构化数据中获取信息; 3. 精通Html、JavaScript、XML等知识,熟悉前端异步请求方式; 4、精通自动化测试工具; 5、 熟悉一种或多种开源技术; 6、 具备一定的数据挖掘能力; 任职要求: 1、 负责为各个业务线提供垂直,精准的数据采集,抽取,存储服务 2、 设计爬虫策略和防屏蔽规则,提升网页抓取的效率和质量 3、 解决网页抓取,信息抽取等问题,构建高可用性,高扩展性网络信息采集平台 4、 能独立解决实际开发过程碰到的各类问题
-
岗位职责: 1.负责开发维护公司服务平台 2.完成上级领导交给的其他工作任务 3.具有一定的技术架构思维,确保开发的代码有较高性能、质量保障、扩展性和前瞻性,承担部分重难点技术攻坚任务 4.能够承担工作压力 负责平台稳定性。 任职要求: 1.三年以上开发经验,熟练掌握Python语言,有docker k8s容器编排等经验者优先考虑; 2.精通异步网络编程、多线程编程、HTTP协议、异步框架Async、集群与负载均衡、消息中间件等技术; 3.熟练使用Linux操作系统,具有基础服务维护能力; 4.熟悉mysql 和 mongodb redis memcache 等常见的nosql缓存; 5.至少熟悉Python主流框架Django、Tornado、Flask、webpy 中的一种; 6.具备理论框架基础,系统性思考能力优先; 7.具备良好的沟通及团队协作能力,自驱力较强。
-
云计算开发工程师(java/python/算法)
[西安·高新技术产业开发区] 2024-11-0615k-30k 经验1-3年 / 本科通讯电子 / 不需要融资 / 2000人以上华为云基础服务招聘 地点:上海,西安, 深圳, 杭州 研发工程师:负责开展公有云核心云服务产品关联特性设计和研发工程师,熟悉掌握Java/Python/Go/JS等编程语言。 测试工程师:负责云计算相关的核心交付特性测试设计,自动化能力建设,测试框架开发,DFX等测试工作。 OPS运维&开发工程师:负责对云计算基础核心服务的现网可靠性运维,作为工具开发等。 售前SA或者RDPM:支撑客户业务上云交付,解决方案支撑,出差国内/国际。 产品管理工程师:根据市场调研分析,收集汇总客户需求,设计满足客户需求的产品。 完善的培训体系,包括人员技能,业务知识等培训帮助大家快速融入团队,目前业务快速发展,想寻找舞台,锻炼自己,这里拥有最好的平台,就差那个等待录用的你,期待你的加入! -
负责华为云基础平台的技术研发,设计和运维工作;参与大规模分布式系统的重构与调优。岗位要求:1 本科及以上学历,计算机相关专业,两年及以上软件开发经验2 熟悉python,java,c++等至少其中一种编程语言;具备linux环境开发经验3 具备大型分布式系统的开发和性能优化经验的优先4 熟练掌握Kafka,redis,rabbitmq,nginx,zookeeper,等开源中间件优先5 有openstack,kubernets等服务编排框架开发经验优先6 有持续集成,devops等实战经验优先
-
工作职责: 1、独立负责网络爬虫系统的设计与开发; 2、负责和业务沟通抓取需求,满足业务的发展需要; 3、负责大数据产品所需网站的信息抓取、解析、清洗等研发与优化工作; 任职要求: 1. 计算机或相关专业,本科及以上学历; 2. 熟悉软件工程,熟悉常用数据结构和算法; 3. 熟悉Python语言 、掌握爬虫框架scrapy , 熟悉分布式爬虫管理框架Gerapy, 爬虫管理scrapyd ,分布式爬虫scrapy-redis 4. 熟悉Linux操作系统以及shell脚本; 5. 熟悉HTML,JavaScript,xpath,css selector,熟悉HTTP协议; 6. 英语水平达到CET6或以上; 7. 工作细心,认真负责,具备较强的学习能力; 8.了解Git版本管理工具。
-
一、职位描述 1、对指定的多个网站进行网页抓取、数据提取;负责网络数据抓取规划、清洗以及汇总的开发工作; 2、负责特殊网页采集任务的分析及采集方案设计; 3、参与爬虫架构设计和研发,满足产品中数据抓取的要求; 4、参与爬虫核心算法和策略优化研究; 5、抓取调度和策略优化,实时监控爬虫的进度和警报反馈; 6、爬虫核心系统, 数据平台的研发维护。 二、职位要求 1、 本科及以上学历,计算机相关专业;3年以上开发经验,2年以上Hadoop相关工作经验; 2、具有数据挖掘、信息检索、机器学习开发经验; 3、精通HTML语言,熟悉JS,Ajax,熟悉Lucene、Nutch、Heritrix、larbin、HtmlParse、Scrapy、Crawler4j、WebMagic、WebCollector等开源工具; 4、精通网页抓取原理及技术,从结构化的和非结构化的数据中获取信息; 5、熟练使用一门以上脚本语言(PHP/PYTHON/JAVA/Node.js/SQL/R语言 等); 6、熟练Hadoop大数据平台的核心框架 (HDFS, Pig, Hive, Sqoop, oozie, Zookeeper, Spark, Storm, Kafka 等); 7、精通网络编程,熟悉HTTP传输协议,能模拟浏览器操作爬虫; 8、有丰富Java /Python开发经验者优先;熟悉MySQL、Oracle及有集群数据库开发经验者优先。 9、具备web挖掘等搜索引擎相关知识,有从事网络爬虫、网页去重、网页信息抽取的经验。以解决技术难题为乐,对程序完美有偏执追求;具有团队精神,有想法,敢于挑战自我。
-
公司简介: 《消费者报道》杂志社创建于1998年,是中国内地率先采用商品和服务对比测评、研究商品评价体系的专业机构,多年来专注并坚持在市场消费现象、行业服务及消费维权方面进行深入的研究、分析和应用,持续向公众传播科学消费与责任消费的理念,目前已形成全媒体、研究中心、数据中心三位一体的调研架构,为政府部门、社会组织、企业和消费者提供全面、科学、权威的调研和资讯服务。这里很纯粹,就是做事的地方——我们热衷于解决问题。 正选数据中心是消费者报道旗下独立事业部。2018年起,团队吸收了来自广东省重点电子政务项目“粤省事”、“营商环境”的技术骨干,专注于研发面向各行业垂直领域的大数据、算法、应用软件产品,先后研发上线了产品质量监测与分析系统、企业信用风险模型管理系统、企业生产销售产品库等,在各领域已逐步实现常态化、主题化、智能化的数据应用场景。本次python爬虫工程师岗位为正选数据中心招聘岗位。 正选数据官网:https://www.ccrdata.cn/ 岗位职责: 1、负责分布式网络数据采集系统及数据库的设计与开发; 2、设计数据采集策略和防屏蔽规则,解决封账号、封IP、验证码等技术问题; 3、维护和优化已有数据采集服务; 4、负责数据采集服务核心算法的策略优化研究,充分利用资源,提升网页抓取的效率和质量。 6、与团队其他人员高效沟通合作完成团队目标; 7、完成上级交办的其他工作任务。 任职要求: 1、大专及以上学历,2年及以上工作经验,计算机软件相关专业,具有扎实的操作系统、网络、数据库相关基础知识; 2、熟练掌握python多进程、多线程、协程、网络编程; 3、熟悉Linux操作系统,熟练使用常用命令;熟练掌握MySQL、MongDB、Redis开发经验者优先; 4、精通网页抓取原理及技术、深度抓取、动态网页技术抓取、浏览器模拟抓取技术,从结构化的和非结构化的数据中获取信息;熟悉Scrapy、Pyppeteer、Selenium、playwright等爬虫框架/工具中的一种或多种; 5、了解常用验证码识别技术,熟悉行为验证码识别、模拟登陆,熟悉各种反爬机制和解决措施; 6、对经手的工作理解深入,有团队观念,具备独立解决问题的能力,善于学习提升。
-
职位描述: 1、负责网络爬虫系统平台的架构设计与开发(如抓取调度,多样化抓取,页面解析和结构化抽取)、技术选型; 2、研究爬虫策略和防屏蔽规则,解决封账号、封IP、验证码、混淆加密,算法还原,so层,页面跳转等难点攻克,提升网页抓取的效率和质量; 3、对抓取后的数据进行清洗、存储等,并持续优化 平台,以便满足各种爬取业务需求。岗位要求: 1.精通Linux/UNIX,精通Python语言,至少熟练掌 握主流爬虫框架中的一种; 2.了解各种加密算法,在破解验证码方面有丰富经验,能够独立解决is反爬和模拟登陆问题; 3.熟练掌握正则表达式、XPath、CSS等网页信息抽 取技术; 4.熟悉常见反爬机制,验证码识别,IP代理池、应用 lp池、headers认证和cookie等; 5.熟练掌握应用Selenium、PhantomJS、Splash Puppeteer实施动态抓取; 6.熟悉熟练使用charles、fiddler等抓包工具者优先 7.熟悉数据清洗,能够用numpy、pandas、jieba等 8.熟悉mysal、mongodb、redis、rabbitMQ、kafk a、spark者优先; 9.对有金融数据抓取清洗经验优先; 工作时间: 8小时工作制,周一至周五(双休、国家法定节假日 )。 薪资待遇: 试用期3个月,正式入职工资6000~11000。 条件优异者,****
-
岗位职责 1. 和投研团队紧密合作,开发投资过程中使用的Python工具。 2. 提升数据分析和数值计算的Python代码性能。 3. 管理Python环境、package版本。 4. 逐步完善CI/CD pipeline、unit test automation。 5. 开发公司内部的数据可视化界面(FastAPI)。 6. 开发公司内部的微服务(REST APIs)。 7. 开发云存储、云计算相关的Python工具。 8. 参与建设第三方数据库搭建,编写公司内部接口。 9. 关注PyData生态环境,持续评估新的工具包。 岗位要求 1. 本科以上学历(211以上),具有计算机等相关专业背景。 2. 工作细心、谨慎,具备较强的学习能力。具有良好的团队协作及沟通能力、工作态度认真。 3. 精通Python语言,对Python相关基础知识有深入的研究和理解,熟练使用相关工具包。 4. 熟练使用git。 5. 熟练使用Mysql、MongoDB等数据库,并掌握基础数据库知识。 6. 熟悉Linux开发环境,了解基本的指令。 7. 加分项:熟悉Anaconda、Artifactory、ELK、AWS、Docker、FastAPI。
-
岗位职责: 1.在Agile的开发模式下,按时完成所分配的任务 2.负责项目网站的接口开发、后台系统的开发; 3.根据公司要求编写相关技术文档; 4.项目过程中,和队员之间做好良好的沟通和交流,及时发现和处理问题 任职要求: 1.大专及以上学历,计算机相关专业优先 2.一年以上实际项目开发经验,代码规范 3.熟练使用Spark分布式运算框架 4.熟悉mysql, Django, web开发,需要会写原生SQL 5.熟练使用Python编写数据处理脚本 6.能够对脚本进行逻辑分析和性能调优 7. 英语良好(书面可以应用)
-
招聘职位:Python 开发工程师 公司简介: 我们是一家专注于跨境电商领域的领先企业,为跨境卖家提供服务实现业务的发展。我们正在寻找一位富有激情、精通Python编程,喜欢编程的工程师加入我们的团队。 职位描述: 作为跨境电商ERP大数据处理与清洗工程师,您将扮演关键角色,负责处理大规模的跨境电商数据,确保数据的质量和准确性。具体职责如下: 职责: 1. 使用Python编程语言开发和维护数据处理和清洗脚本,确保跨境电商ERP系统的数据质量和一致性。 2. 制定并执行数据清洗策略,处理异常值、重复项和缺失数据,以确保数据的准确性和完整性。 3. 与产品经理紧密合作,了解业务需求,提供数据支持和解决问题。 4. 监测数据处理性能,优化数据处理速度和效率,确保数据及时可用。 5. 维护数据处理和清洗脚本,确保系统的可靠性和稳定性。 职位要求: 1. 精通Python编程,具备出色的编码和调试技能,能够编写高效的数据处理脚本。 2. 有大数据处理和清洗的经验,能够解决各种数据异常和问题。 3. 具备卓越的沟通和团队合作能力,能够与不同团队协作以解决问题。 4. 具备解决问题的能力,能够快速应对紧急情况和处理故障。 5. 对数据安全和隐私保护有敏感性。 加分项 对爬虫有经验 具备Jenkins构建和部署的基本了解和操作经验。 熟悉跨境电商ERP系统,了解跨境电商业务流程,有ERP项目经验者优先。 如果您具备上述要求,对跨境电商ERP和大数据处理感兴趣,并希望在一个具有挑战性和创新性的团队中工作,期待您的加入,一起推动跨境电商领域的发展!
-
职位要求: 1. 3年以上Python开发经验 2. 熟悉Vue, JS,TS等前端开发经验优先考虑 3. 良好的代码编写规范 4. 有Linux操作经验 5. 熟悉Mysql,PostgreSQL数据库 6. 熟悉使用Git代码管理工具 7. 熟悉Tornado,FastAPI,Odoo等开源框架 9. 有API开发经验 10. 有地图类功能开发经验优先考虑 11. 有参与过微信/支付宝小程序的相关开发项目者优先考虑 12. 有完整的项目经验优先过滤


