基于Python的GitHub用户数据处理平台设计.doc

资料分类:计算机信息 上传会员:紫色烟火 更新时间:2022-06-01
需要金币1000 个金币 资料包括:完整论文 下载论文
转换比率:金额 X 10=金币数量, 例100元=1000金币 论文字数:9141
折扣与优惠:团购最低可5折优惠 - 了解详情 论文格式:Word格式(*.doc)

摘要:本文主要呈现一个基于Python开发的GitHub用户数据处理平台,从开发到部署,实现一个人性化的处理数据和展示数据的平台。它是基于docker容器化开发,解决系统依赖等问题,使用ansible自动化部署应用。

该平台主要实现以下功能,前端页面显示已经抓取的数据,可以选择清空数据并且重新抓取最新数据,同时支持根据用户名查找相应的用户并显示,点击用户名跳转到个人详细资料页面。需要联系或者反馈给他人,可以使用本系统提供的在线发送电子邮件功能。分析已有数据,同时对数据有直观的处理和呈现,使用数据表或数据图呈现给用户。使用Python中轻量级Flask框架,基于MVC模式进行设计,采用对象关系映射(ORM)操作容器内的MySQL数据库。前端采用Bootstrap框架开发,图表部分采用chartkick和highcharts实现。

基于Docker容器化开发便于解决系统依赖,Python主程序生成一个镜像,MySQL使用一个镜像,搭建私有registry存储镜像,可以部署在一台或者多台机器上,初步实现分布式部署。采用基于ssh访问密码模式,编写的ansible脚本,实现自动化一键部署。

关键词:Python;Docker;Ansible;GitHub用户数据

 

目录

摘要

Abstract

1 概述-1

1.1 引言-1

1.2 项目设计目标-1

1.3 系统功能概述-1

1.4 部署环境要求-2

2 系统分析-3

2.1 需求分析-3

2.1.1 功能需求分析-3

2.1.2 非功能需求-6

2.2 技术分析-7

2.2.1 获取GitHub数据可行性分析-7

2.2.2 数据处理和前端界面展示可行性分析-7

2.2.3 容器化和自动部署可行性分析-7

2.3 操作可行性分析-7

3 概要设计-8

3.1 系统数据库设计-8

3.2 系统功能模块设计-10

3.3 系统界面设计-11

4 系统详细设计与实现-14

4.1 系统文件结构的设计-14

4.1.1 项目目录结构-14

4.1.2 爬虫目录结构-15

4.1.3 Flask框架目录层-15

4.2 系统架构的设计-15

4.3 系统功能的实现-16

4.3.1 抓取数据功能实现-16

4.3.2 个人信息展示功能界面实现-18

4.3.3 发送邮件功能实现-18

4.3.4 前端界面数据图表展现功能-19

4.3 系统性能设计-19

5 系统调试-20

5.1 测试方法-20

5.2 错误调试-20

6 自动化部署脚本开发与部署-21

6.1 部署前置条件-21

6.2 ansible开发-21

6.2.1 ansible工作机制-21

6.2.1 ansible项目工程-22

6.2.1 ansible部署所需软件和镜像-23

7 总结-25

7.1 流程-25

7.2 心得-25

结    论-26

参 考 文 献-27

致    谢-28

相关论文资料:
最新评论
上传会员 紫色烟火 对本文的描述:实现一个GitHub用户数据处理的平台,用户可以在前端页面操作,清空数据库已经抓取的数据,根据用户名查找已经抓取的数据信息,在线抓取最新数据信息。同时,将已有的信息以结构......
发表评论 (我们特别支持正能量传递,您的参与就是我们最好的动力)
注册会员后发表精彩评论奖励积分,积分可以换金币,用于下载需要金币的原创资料。
您的昵称: 验证码: