batch-processing

我的交易隔夜批次的持续时间激增
batch-processing

我的交易隔夜批次的持续时间激增

我有一个事务性的通宵批处理运行...收集数据进行一些小计算,然后将其放在其他地方,过去 2 个月里,它每天凌晨 3 点左右完成。现在它出现了峰值,每天凌晨 4:15 后才结束,我不知道为什么。 我所说的计算只是数据聚合。现在我知道其中有一些写得不好的查询,但我认为它们无法解释这次上涨。 数据量没有发生显著变化(鉴于它是事务性的,它总是以固定的量增加)。 服务器没有硬件或软件发生任何变化 批次或正在进行的计算没有发生变化。 批次的所有部分似乎都以大致相同的百分比增加了时间。 我觉得这肯定是硬件问题,但如果我进行基准测试,我没有以前的统计数据可以进行比...

Admin

用于在 SMB\CIFS 协议中复制文件的批处理脚本
batch-processing

用于在 SMB\CIFS 协议中复制文件的批处理脚本

我正在尝试使用类似这样的构造从远程机器复制文件 copy smb://DOMAIN;USERLOGIN:[email protected]/folder/ C:/tmp/ 它显示下一条消息 - The filename, directory name, or volume label syntax is incorrect. 我猜测 win 命令“copy”只适用于目录...其主要思想是通过 SMB 协议在用户登录名和密码内精确复制文件。 因此,我浏览互联网时发现“USE NET”可能对我有帮助。当我尝试使用它时,它告诉我同一资源上有...

Admin

使用 Spot 实例在 AWS Batch 中对许多 S3 文件进行大规模批量操作的良好技术
batch-processing

使用 Spot 实例在 AWS Batch 中对许多 S3 文件进行大规模批量操作的良好技术

我在 S3 上存储了数百万个文件中的大量文本数据。我经常想对每个文件执行某些操作,这些操作只使用该文件并从中创建一个新文件。通常,我会使用公司的 DataBricks 来实现这一点,但它的锁定程度很高,很难在那里部署复杂的代码。 我一直在考虑使用 AWS Batch 和 Spot 实例来替代 DataBricks 来完成其中一些任务。我当然希望使用多个节点,因为最大的单个节点无法在合理的时间范围内完成工作。当然,也有专为分布式计算而设计的技术,比如 Apache Spark,但我 (a) 对自己建立自己的 Spark 集群的能力没有信心,(b) 不相信 Sp...

Admin

如何编写具有等待时间、依赖关系和条件执行的批处理作业查询?
batch-processing

如何编写具有等待时间、依赖关系和条件执行的批处理作业查询?

我正在尝试编写一个通过任务调度程序执行的批处理作业。目标是按顺序运行这些 exe 作业。但是,其中一些作业依赖于其他作业。例如。 job1.exe(无依赖项。exe 用于 API 调用) job2.exe(无依赖项。exe 用于 API 调用) job3.exe(exe 中的 python 文件,需要 job1 成功运行,执行前等待 3 分钟) job4.exe(exe 中的 python 文件,需要 job2 和 job1 都成功运行,执行前等待 3 分钟) 目的:尽可能并行运行job1和job2、job3和job4,当前设置如下: START /mi...

Admin

从 powershell 命令输出中获取前一天的日期作为批处理文件中的变量
batch-processing

从 powershell 命令输出中获取前一天的日期作为批处理文件中的变量

场景是这样的。我需要一个前一天的日期(即今天 -1)作为批处理文件中的变量。但如果前一天是星期日(即脚本在星期一运行),它应该返回星期六的日期(即今天 -2)。我试过下面的脚本,但似乎不起作用。有人能帮忙吗? ECHO STARTING FOR /F "tokens=* USEBACKQ" %%F IN (`powershell -Command "& {if ^(^([Int] ^(Get-Date^).DayOfWeek^) -eq 1^) {get-date^(^(get-date^).addDays^(-2^)^) -uformat "%%...

Admin

在循环批处理文件中,mkdir、robocopy、date\time 文件夹出现问题
batch-processing

在循环批处理文件中,mkdir、robocopy、date\time 文件夹出现问题

我到处都搜索过了,但还是找不到解决方案。我不确定这里发生了什么,但我迫切需要一些关于这个问题的帮助,我正在运行一个批处理文件(游戏服务器监视器/崩溃重启程序的脚本)。 我决定添加一个日志文件存档片段,它会创建一个以日期命名的文件夹和一个以时间命名的子文件夹,然后 robocopy /mov 将主文件夹中的日志复制到每次游戏服务器重启(3 小时)时创建的存档文件夹。 我单独测试了该代码片段,并在其余批处理脚本中对其进行了测试,结果发现它运行良好,我还确认它可以在服务器启动时运行该脚本的任务计划程序中运行,但是我注意到它可能只运行一次,然后下次需要创建新目录...

Admin

几个短时间连续的 SSH 连接
batch-processing

几个短时间连续的 SSH 连接

想象一下执行一个短暂的重复过程,最后与某个服务器建立短暂的 SSH 连接(例如通过 SFTP 传输新生成的文件)。这意味着将有大量短暂连续的 SSH 连接和断开连接。 在这种情况下需要考虑什么?例如可能的 SSH 连接请求限制等。 ...

Admin

服务器负载处理:单个批量请求与多个请求
batch-processing

服务器负载处理:单个批量请求与多个请求

我曾与一位开发人员讨论过创建、更新和删除的不同 API,他说最好向服务器发送单个批量请求来执行创建、更新和删除等操作,而不是对每个操作发送多个请求,因为如果有多个连续请求,服务器将不得不处理这么多请求,这将增加服务器的负载。我还假设它必须进行多次更新,而不是批量更新数据库。 假设我有一个电子表格类型的应用程序。在每一行中,我有多个可以编辑的单元格。保存这些更改的一种方法是每次更新单元格时向服务器发送更新请求。另一种选择是对所有更新进行防抖动,比如说 10 秒。 我还可以创建 10 行,更新一行并删除另外 2 行。我试图理解这两种请求类型的差异和权衡 我...

Admin

如何阻止特定用户启动其他作业?
batch-processing

如何阻止特定用户启动其他作业?

使用 Slurm 工作负载管理器,我如何防止用户bob启动更多作业?现有作业应继续运行。用户应该能够提交更多作业,但不能启动。 ...

Admin

如何创建一个批处理文件,经过一段时间后执行一个文件,但如果中断则执行另一个文件?
batch-processing

如何创建一个批处理文件,经过一段时间后执行一个文件,但如果中断则执行另一个文件?

我想自动运行批处理文件来安装 ms office 2007 或 2010。 我正在考虑有一个选项菜单 1.Office 2007 2.Office2010 我希望我的计时器在开始时启动..比如说 20 秒 如果我同时按下选项 2 开始安装 2010 如果剩余且超时 = 0,则开始安装 2007 @echo off timeout /t 20 choice /n /c 2 /m "Press 2 for Office 2010 " set /a m=2 set /a counter=0 if %counter% ==0 GOTO office2007...

Admin

以 root 身份运行 Supervisord 进程
batch-processing

以 root 身份运行 Supervisord 进程

我的目标是在其中一个程序中运行 sudo: [program:doStaff] command=sudo python manage.py doStaff autostart=true autorestart=true stderr_logfile=/var/log/doStaff.err.log stdout_logfile=/var/log/doStaff.out.log 这是来自supervisord.conf的[unix_http_server]: [unix_http_server] file=/var/run/supervisor.soc...

Admin

用于 HPC 批处理的容器
batch-processing

用于 HPC 批处理的容器

我们面临的问题是,许多人希望在我们的高性能计算集群上运行不同的科学软件。每个用户都需要一组不同的库和库版本,我们不希望管理员每次都处理新库的安装。 因此,我们正在考虑使用 docker 容器来实现这个目的:每个用户都可以使用他所需的用户空间库设置自己的容器,然后使用该容器运行批处理作业。 然而,在我看来,docker 主要专注于服务代替批处理作业:通常您有一个(例如 Web)服务,该服务应该一直运行并在新作业进入时立即处理新作业(基本上总是使用新输入数据的相同任务)。 我们的情况完全不同:新用户应该能够设置应在硬件上运行的新任务,并且应该为其批处理作业...

Admin

Windows 在同一个 bat 中在后台启动 nginx 和 php-fpm
batch-processing

Windows 在同一个 bat 中在后台启动 nginx 和 php-fpm

我正在尝试在 Windows 10 上创建一个 bat 文件以在后台启动 nginx 和 php-fpm。目前我可以这样做,但命令窗口(黑色窗口)保持打开状态。如果我关闭窗口,php-fpm 也会终止。 这是我在 start.bat 中添加的内容 @ECHO OFF cd D:\servers\nginx-1.10.1\ echo Starting Nginx... start /B cmd /K "D:\servers\nginx-1.10.1\nginx.exe" echo Start Php-cgi... start /B cmd /K "D:\s...

Admin

计划任务
batch-processing

计划任务

概述:- 我需要每 10 分钟从内部网站点下载一个 csv 文件。这是使用批处理文件完成的。为了确保下载过程无任何延迟,我使用 Windows 任务计划程序设置了多个任务。当我在桌面上处于活动状态时,任务会成功运行。当我注销时,任务会失败。因此,为了让它们在周末保持活动状态,我将系统锁定。 问题:- 当保持锁定时,所有任务开始同时运行,无法更新文件。 问题:-如何预防这种情况。 ...

Admin