我有一个包含四列的 csv 文件,如下所示
aa,bb,cc,dd
ee,bb,cc,dd
ff,bb,cc,dd
xx,11,22,33
yy,11,22,33
我想把它变成:
aa,ee,ff,bb,cc,dd
xx,yy,11,22,33
基本上,找到最后 3 列相同的行并合并第一个字段。
有谁知道如何在 bash 或 Python 中做到这一点?
答案1
这是一个awk
程序:
#!/bin/awk -f
BEGIN {OFS = FS = ","}
{
gsub(/ +$/, "", $4)
field = $2","$3","$4
if (field in a)
a[field] = a[field]","$1
else
a[field] = $1
}
END { for (i in a) print a[i], i}
还有额外的Python程序:
from collections import OrderedDict
records = OrderedDict()
for line in open('file1'):
field, key = line.strip().split(',', 1)
records.setdefault(key, []).append(field)
for key, fields in records.items():
print(','.join(fields + [key]))
结果:
aa,ee,ff,bb,cc,dd
xx,yy,11,22,33
答案2
珀尔
哈希%h
保存数据,而数组@h
管理哈希元素遇到的顺序。 OTW,哈希密钥将以随机顺序选择。
perl -F, -lane '
BEGIN{ $"=$,=","; }
push @{$h{"@F[-3..-1]"}}, $F[0];
$h[-1+keys %h] = "@F[-3..-1]";
END{ print @{$h{$_}}, $_ for @h; }
' yourcsvfile
塞德
sed -e '
:loop
$!N
s/^\(.*\)\(\(,[^,]*\)\{3\}\)\n\([^,]*\)\2$/\1,\4\2/
tloop
P;D
' yourcsvfile
重击
sed \$G yourcsvfile | # we add a dummy line to signal last record has been processed
while IFS=, read -r -a A; do
var=${A[@]: -3:3}
var=${var// /,}
case $var in
"$prev" ) x=${x-}${x:+,}${A[0]} ;;
* ) case $prev in ?* ) echo "$x,$prev" ;; esac; prev=$var; x=${A[0]} ;;
esac
done