☰

提取某个字符串，搜索并替换或保留包含提取值的较长字符串

tag-icon • tag-icon sed search replace
提取某个字符串，搜索并替换或保留包含提取值的较长字符串

需要编辑的输入文件如下（可以有更多行）：

bundle_id   target_id   length  eff_length  tot_counts  uniq_counts est_counts  eff_counts  ambig_distr_alpha   ambig_distr_beta    fpkm    fpkm_conf_low   fpkm_conf_high  solvable    tpm
1   intron_FBgn0035847:4_FBgn0035847:3  61  0   0   0   0   0   0.00E+00    0.00E+00    0.00E+00    0.00E+00    0.00E+00    F   0.00E+00
2   intron_FBgn0032515:2_FBgn0032515:4  72  0   0   0   0   0   0.00E+00    0.00E+00    0.00E+00    0.00E+00    0.00E+00    F   0.00E+00
3   intron_FBgn0266486:5_FBgn0266486:4  58  0   0   0   0   0   0.00E+00    0.00E+00    0.00E+00    0.00E+00    0.00E+00    F   0.00E+00
4   intron_FBgn0031359:10_FBgn0031359:7 4978    1430.739479 91  0   30.333333   105.539363  1.00E+00    1.00E+00    6.30E+00    1.77E+00    1.08E+01    F   1.42E+01
4   intron_FBgn0031359:10_FBgn0031359:8 4978    1430.739479 91  0   30.333333   105.539363  1.00E+00    1.00E+00    6.30E+00    1.77E+00    1.08E+01    F   1.42E+01
4   intron_FBgn0031359:10_FBgn0031359:9 4978    1430.739479 91  0   30.333333   105.539363  1.00E+00    1.00E+00    6.30E+00    1.77E+00    1.08E+01    F   1.42E+01
536 intron_CR31143:1_CR31143:2  40  0   0   0   0   0   0.00E+00    0.00E+00    0.00E+00    0.00E+00    0.00E+00    F   0.00E+00

对于第二列中的每个 ID内含子_XXXXXXXX:X_XXXXXXXX:X，我想提取之间的字符串内含子_和第一个:（在字符串之间通常但并不总是以 FBgn 开头）。

然后我有一个如下列表（一列用于FBgn以及我希望将 FBgn 转换成的相应名称的另一列）：

## FlyBase Gene Mapping Table   
## Generated: Fri Dec 20 12:37:29 2013  
## Using datasource: dbi:Pg:dbname=fb_2014_01_reporting;host=flysql9;port=5432...   
FBgn0035847 mthl7
FBgn0032515 loqs
FBgn0266486 CG45085
FBgn0031359 CG18317

然后我想在列表的第一列中搜索提取的字符串。

如果提取的字符串在第二列中有对应的值，我想替换整个ID内含子_FBgnXXXXXX:X_FBgnXXXXXX:X与第二列中的相应名称。

如果提取的字符串不存在于第一列中，我想替换整个ID内含子_XXXXXXXX:X_XXXXXXXX:X与提取的字符串。

我有一个脚本如下：

ref="gene_map_table_fb_2014_01_short.tsv"
target="HC25_LNv_ZT02_intron_results.txt"
output="temptemp.txt"

declare -A map
while read line
do
if [[ ! -z "$line" ]] && [[ ! "$line" =~ ^#.* ]]
then
key=$(echo "$line" | cut -f 1)
value=$(echo "$line" | cut -f 2)
map[$key]=$value
fi
done < $ref

while read line
do
  key=$(echo "$line" | sed -n 's/.*_\([^\.]*\)\:.*/\1/p' | head -1)
if [ ! -z "$key" ]
then
  echo "$line" | sed 's/intron_[^[:space:]]*/'${map[$key]}'/g' >> $output
else
  echo "$line" | sed 's/intron_[^[:space:]]*/'$key'/g' >> $output
fi
done < $target

一切似乎都工作正常，除了输出文件缺少 ID 不以 FBgn 开头的行。

答案1

你能行的：

cat gene_map_table_fb_2014_01_short.tsv  |sed '1d' |awk {'print $2'} |awk 'BEGIN{FS=":"} {print $2}' |sed s/._//g

首先cat你的文件，然后删除第一行（带有d1的列标题），然后打印所有列，然后4_FBgn0035847用分隔awk 'BEGIN{FS=":"} {print $2}'然后number_用消除sed s/._//g

输出是：

FBgn0035847
FBgn0032515
FBgn0266486
1FBgn0031359
1FBgn0031359
1FBgn0031359
CR31143

但是，如果您的结束行是多余的并且您想删除它，您可以这样做：

cat gene_map_table_fb_2014_01_short.tsv  |sed '1d' |awk {'print $2'} |awk 'BEGIN{FS=":"} {print $2}' |sed s/._//g |sed '$d'

所以，输出是：

FBgn0035847
FBgn0032515
FBgn0266486
1FBgn0031359
1FBgn0031359
1FBgn0031359

答案2

使用awk

这将创建制表符分隔的输出：

$ awk -v OFS="\t" 'NR==FNR{a[$1]=$2;next} FNR==1{print;next} {sub(/intron_/, "", $2); sub(/:.*/,"",$2);if ($2 in a) $2=a[$2];print}' gene_map_table_fb_2014_01_short.tsv HC25_LNv_ZT02_intron_results.txt
bundle_id   target_id   length  eff_length  tot_counts  uniq_counts est_counts  eff_counts  ambig_distr_alpha   ambig_distr_beta    fpkm    fpkm_conf_low   fpkm_conf_high  solvable    tpm
1       mthl7   61      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
2       loqs    72      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
3       CG45085 58      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
536     CR31143 40      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00

解释：

  • -v OFS="\t"

    这使得输出字段分隔符变成一个选项卡。

  • NR==FNR{a[$1]=$2;next}

    a这将根据命令行上的第一个文件创建一个关联数组，其中第一列作为键，第二列作为值。该next命令指示awk跳过其余命令并跳转到下一行。

    映射文件包含一些注释行。我们可以轻松地添加一个额外的if语句来防止它们被添加到数组中a。然而，由于它们没有害处，所以我们跳过了这个复杂的问题。

  • FNR==1{print;next}

    这将打印标题行不变。

  • {sub(/intron_/, "", $2); sub(/:.*/,"",$2)

    这会删除第二个字段中的多余内容，只留下我们想要的字符串。

  • `如果（a 中的 $2）$2=a[$2]

    如果第二个字段中的字符串作为 array 中的键存在a，那么我们将替换其相应的值。

  • print

    修改后的行被打印出来。

使用bash

在脚本中，替换

if [ ! -z "$key" ]

和：

if [[ "$key" && "${map[$key]}" ]]

此时脚本似乎需要知道的是是否key存在于map。修订后的测试不仅确保它key非空，而且确保它位于 中map。

经过这一更改，我得到了输出：

$ cat temptemp.txt 
bundle_id   target_id   length  eff_length  tot_counts  uniq_counts est_counts  eff_counts  ambig_distr_alpha   ambig_distr_beta    fpkm    fpkm_conf_low   fpkm_conf_high  solvable    tpm
1       mthl7   61      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
2       loqs    72      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
3       CG45085 58      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
4       CG18317 4978    1430.739479     91      0       30.333333       105.539363      1.00E+00        1.00E+00        6.30E+00        1.77E+00        1.08E+01        F       1.42E+01
536     CR31143 40      0       0       0       0       0       0.00E+00        0.00E+00        0.00E+00        0.00E+00        0.00E+00        F       0.00E+00

作为旁白text，如果非空则[ ! -z "$key" ]返回 true 。key这相当于[ -n "$key" ].由于这是一个常见的测试，因此可以进一步缩短为[ "$key" ]。这可用于简化bash脚本中的几行。

相关内容