说说最近的一个案例吧,线上阿里云RDS上的一个游戏日志库最近出现了一点问题,随着游戏人数的增加,在线日志库的数据量越来越大,最新的日志库都已经到50G大小了,在线变更的时间非常长。

之前之所以没有发现,是因为之前一直没有进行过日志库的变更,但是随着业务的深入,需要增加一些游戏属性,要对之前的日志库进行变更,这样一来,长时间的维护窗口让业务方和DBA都望而却步,日志优化迫在眉睫。
首先看日志库的情况:
1、日志库中数据量大于5000w的大表有5张;
2、这5张表开量前每个月的数据量大概在2000w左右,开量后会更多;
3、有2个表的索引大小已经超过数据文件大小
询问了业务方和运营对这些表的要求,具体如下:
1、保留最近这3个月的数据,其他的数据可以进行流转,避免影响线上业务的性能。
2、3个月之前的数据流转到一个本地库中,可以支持查询即可,查询速度不能过于慢,分钟级别的可以接受。
3、日志库在迁移的过程中,能够容忍几分钟的表数据丢失,对数据的同步实时性要求不是很高
4、线上的日志库需要支持用户活跃度等统计
5、不希望执行分库分表,有很多查询近几个月的SQL操作,表之间存在一定的耦合性,分表之后不利于关联操作
基于上面的分析,结合实际情况,初步设想的方案是:
1、对线上数据库game_log中的表进行rename操作,然后将原来的表重新创建出来,这个过程中不是连续的,可能会丢失几秒钟的数据。具体的操作如下:
#第一步
rename table game_log.table to game_log_bak.table;
#第二步,获取表结构,其中重要的是auto_increment的值,
#保证后续导入三个月内数据的时候不会发生冲突
show create table game_log_bak.table\G
#第三步
在game_log库中重新创建第二步的表结构
2、将rename过后的game_log_bak库中的数据流转到本地的离线数据库中,该数据库采用infobright存储引擎,这样能够支持离线数据的快速查询
3、备份并清理线上表3个月之外的数据,大概是40G,并将线上的game_log_bak数据库中3个月以内的数据(大概10G)重新灌入game_log数据库中,这样结构就变成了:
4、删除game_log_bak库,并搭建一个只读从库,实时的从主库上同步game_log库的信息,如下:
5、从本地的只读从库中,像本地的infobright数据库中同步数据,同步的方法可以选用dataX工具,像下面这样:
6、设置定时任务,按照一定的周期清理线上的过期数据,确保线上只保留最近3个月的数据,不会对rds的磁盘存储空间产生压力。
这个方法中,目前看来存在下面几个问题:
1、经常性的清理线上数据,这些数据占用的表空间不能被立即回收,可能会造成数据表的碎片问题。
2、后续如果游戏的量级上来之后,使用这个问题可能还是会有问题,届时可以适当调整日志表的清理周期,如果数据量过大,可以考虑其他的方案来处理。
回过头来分析,表的设计上还是存在一定的问题,日志表中记录的应该只是流水数据,尽量不能出现关联查询的情况,或者说可以提前评估数据量,然后使用季度表或者月表来处理这种的大量的日志情况,这样在清理和维护的时候可能就方便的多。
以上就是MySQL 线上日志库迁移实例的详细内容,更多关于MySQL 线上日志库迁移的资料请关注其它相关文章!
相关推荐:
丹东seo是什么怎么选,丹东spr ,黑发ai图
seo软文用什么论坛,seo软文是什么意思 ,爱字幕的AI变脸不见了
怎么分辨文章是不是AI写的?五大技巧揭开真相
SEO怎么做才能提升网站流量与排名?这篇文章给你全攻略,铁岭定制网站推广公司电话
文章AI生成软件高效创作新纪元
SEO站外优化策略:提升网站排名的关键因素,遵义公司网站推广
为什么seo对企业重要,seo对企业进行网络营销的价值 ,ai李沁换脸鲍鱼
ChatGPT打开后空白:如何解决这个困扰并高效使用AI助手,ai四声怎么写
ChatGPT连了外网也登不了?如何解决这一问题,重新畅享AI助力!,ai少女大瓜
OpenAIGPTChatSoraOpenAIChatGPT服务在中断数小时后已恢复,ai视图线稿
为什么做seo的人很少,为了什么做seo ,ai不负你
SEO建议:如何通过优化提升网站流量,赢得市场竞争,自媒体网站免费推广平台
SEO专业怎么样?未来发展的无限潜力与职业前景,联通ai智能早教
SEO努力:提升网站排名的关键策略,网站建设微企动力
SEO选择:如何挑选最合适的SEO优化策略?,wb免费刷粉网站推广
seo要什么条件,seo都需要做什么 ,交互ai求职
未来写作新方式原创AI文章的无限可能
SEO难吗?揭秘SEO背后的真相,让你轻松上手!,大旺百度网站推广
AI网页设计生成-智能化创造无限可能,ai机甲风背景音乐
ChatGPT美区要梯子吗?轻松畅享全球智能聊天体验,ai音位
seo要学什么技术,seo要学什么技术好 ,ai.fale
什么是seo平台seo教程,什么是 seoseo有何价值 ,论文写作ai助手公众号
优化收费,助力企业提升效益,实现共赢,宜州餐饮网站建设
BingAdapter设置数据后没有显示数据?解决方案在这里!,ai中如何把图变形
什么是seo快排,seo快排方案 ,ai剪图形
用AI修改文章,提升写作效率与质量的新时代
ChatGPT网页版内容显示不全的原因与解决方案,ai超级绘
ChatGPT破解版电脑:如何获得更强大的AI助手,提升工作与学习效率,ai预设动画
SEO教研:数字营销新趋势,提升网站流量与转化率的关键,齐鲁证券网站建设
怎样使用AI写文章:释放创作潜能,提升写作效率
SEO埋词技巧,如何提升网站排名?,贵州营销推广方法
重生成AI:突破科技前沿,开启智能未来
seo重点工作是什么,seo重点工作是什么意思 ,棋谱检查ai
AI一键生成原创文章,让创作更高效更轻松!
OpenAI银联支付-未来支付新体验,安全便捷全新升级,医学加ai
GPT哪个模型是最新的?AI语言生成的未来,ai回头
SEO模块:提升网站排名,驾驭数字营销未来,营口网站建设制作平台
SEO公司核心业务是什么?揭秘提升网站排名的奥秘,写作助手ai一键生成作文在线
ChatGPT页面怎么拖不动?解决问题的终极指南,日韩AI换脸在线观看
SEO观察:2025年搜索引擎优化的新趋势与机遇,seo2是什么状态
为什么“蜘蛛弛查询”能成为提升网站排名的秘密武器?,惠州网站推广v1戈seo24
怎么用AI写文:让创作更轻松,效率翻倍
什么是seo行业,seo是什么职业做什么的 ,ai标题字体效果
什么是SEO可以自学吗,seo零基础可以自学吗 ,ai1紫
AI的两个主要发展阶段:从起步到突破,如何重塑未来,wps ai写作去哪里
优排软件:高效管理新天地,轻松提升工作效率,长葛外贸网站建设
SEO技巧提升网站流量和排名,助力企业快速崛起,ai080206.
ChatGPT无法打开?这些解决办法让你重新畅享智能对话!,北大写作ai
ChatGPT403:引领人工智能新时代,颠覆你的工作与生活方式,ai nak
ChatGPT显示无法加载网站是怎么回事?解决方法!,glow将军ai