我第一次注意到这一点是在阅读一些稍旧的物理教科书时。许多作者使用方括号，有时甚至使用花括号，以避免出现嵌套括号。例如：
或者
有人知道这方面的现有惯例吗？我发现很多作者不这样做，但我个人觉得这种符号更容易阅读。
答案1
这是惯例。可能会让人困惑的是，如果你看到类似 tan(X(1 -X)) 似乎没有遵守惯例，但这里外括号表示表达式是函数 tan 的参数，而内括号表示出于结合目的的分组。翻阅我手边的数学书，我在 Spivak 的结石和 Gallian 的当代抽象代数。我根本找不到嵌套的括号发现数论值得注意的是，花了一段时间才在 Spivak 和 Gallian 的文章中找到嵌套括号。这可能是您之前没有注意到这一点的根本原因——在大多数数学写作中，嵌套括号并不常见（除了我在文章开头给出的棕褐色示例）。另一方面，物理数学似乎最终会出现更多这种分组，这可能是您在那里更注意到它的原因。我还注意到，Spivak 和 Gallian 都使用圆括号而不是大括号来进行第三级嵌套，有一次我在 Spivak 中发现了括号，而圆括号应该是合适的（可能是由于公式后期编辑而导致的拼写错误）。
答案2
我本来想将此作为评论发布，但我的声誉不够 - 抱歉。
如果有帮助的话，数学 Stack Exchange 上有一个很好的讨论，网址为https://math.stackexchange.com/questions/1875182/how-to-denote-4th-level-of-nested-parentheses/1875207，详细讨论嵌套括号的惯例。
总而言之，似乎没有任何惯例，而是使用对读者来说最清楚的东西——无论是不同大小的括号、不同的括号类型、颜色还是其他东西。