Big table in mysql Updating rows based on csv every time(MySQL中的大表每次都基于CSV更新行)
本文介绍了MySQL中的大表每次都基于CSV更新行的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!
问题描述
我有一个包含50万行的表,我假设我每小时都会收到CSV文件,我需要根据CSV更新我的MySQL表。它可能包含新行,或者某些行可能会被修改。该表有一个主键(名为SKU)
Product表列:
- SKU
- 产品详情
- 价格
我希望尽快完成此操作,其中一个条件是我不能删除表并再次加载,因为我的主要要求是";支持将给定文件常规非阻塞并行接收到表";中。
我可以使用Python等脚本语言。
我有一个解决方案,就是创建一个临时表并将数据导入到表中,然后更新我的主表。
如有任何帮助或建议,我们将不胜感激
推荐答案
如果新数据是整个集合,请执行以下操作:
CREATE TABLE new LIKE real;LOAD DATA INFILE INTO new ...这是唯一较慢的步骤,但不会影响real表。- 如果您需要清理数据,请执行此步骤。否则,您不需要Python。
RENAME TABLE real TO old, new TO real;此步骤速度很快。DROP TABLE old;
如果传入数据不包含所有SKU,请参阅此处的技术:http://mysql.rjweb.org/doc.php/staging_table
这篇关于MySQL中的大表每次都基于CSV更新行的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
编程基础网
本文标题为:MySQL中的大表每次都基于CSV更新行
基础教程推荐
猜你喜欢
- SQL 效率:WHERE IN 子查询 vs. JOIN 然后 GROUP 2021-01-01
- 如何使用 mysql.connector 禁用查询缓存 2022-01-01
- 无法解决整理冲突 2021-01-01
- SSMS 中的权限问题:“对象 'extended_properties'、数据库 'mssqlsystem_resource'、... 错误 229)上的 SELECT 权限被拒绝" 2022-01-01
- 在 SQL 中连接多个表 2021-01-01
- 需要 MySQL 5.1 中的抽象触发器来更新审计日志 2021-01-01
- 将 SQL Server DateTime 列迁移到 DateTimeOffset 2021-01-01
- 是否可以执行按位分组功能? 2021-01-01
- SQL:使用来自具有相同列名的两个表中的数据... 2021-01-01
- SQL Server 实例在登录协商期间返回无效或不受支持的协议版本 2021-01-01
