Performance Improvements in .NET 8 -- Exceptions & Reflection & Primitives【翻译】 -- Exceptions & Reflection & Primitives【翻译】 Improvements Performance .NET NET in
Exceptions
在 .NET 6 中，ArgumentNullException 增加了一个 ThrowIfNull 方法，我们开始尝试提供“抛出助手”。该方法的目的是简洁地表达正在验证的约束，让系统在未满足约束时抛出一致的异常，同时也优化了成功和99.999%的情况，无需抛出异常。该方法的结构是这样的，执行检查的快速路径被内联，尽可能少的工作在该路径上，然后其他所有的事情都被委托给一个执行实际抛出的方法（JIT 不会内联这个抛出方法，因为它会看到该方法的实现总是抛出异常）。
public static void ThrowIfNull(
[NotNull] object? argument,
[CallerArgumentExpression(nameof(argument))] string? paramName = null)
{
if (argument is null)
Throw(paramName);
}
[DoesNotReturn]
internal static void Throw(string? paramName) => throw new ArgumentNullException(paramName);
在 .NET 7 中，ArgumentNullException.ThrowIfNull 增加了另一个重载，这次是针对指针，还引入了两个新方法：ArgumentException.ThrowIfNullOrEmpty 用于字符串，和 ObjectDisposedException.ThrowIf。
现在在 .NET 8 中，添加了一大批新的助手方法。多亏了 dotnet/runtime#86007，ArgumentExc
public static void ThrowIfNullOrWhiteSpace([NotNull] string? argument, [CallerArgumentExpression(nameof(argument))] string? paramName = null);
多亏了 @hrrrrustic 的 dotnet/runtime#78222 和 dotnet/runtime#83853，ArgumentOutOfRangeException 增加了 9 个新方法：
public static void ThrowIfEqual<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : System.IEquatable<T>?;
public static void ThrowIfNotEqual<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : System.IEquatable<T>?;
public static void ThrowIfLessThan<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>;
public static void ThrowIfLessThanOrEqual<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>;
public static void ThrowIfGreaterThan<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>;
public static void ThrowIfGreaterThanOrEqual<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>;
public static void ThrowIfNegative<T>(T value, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : INumberBase<T>;
public static void ThrowIfZero<T>(T value, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : INumberBase<T>;
public static void ThrowIfNegativeOrZero<T>(T value, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : INumberBase<T>;
这些 PR 在一些地方使用了这些新方法，然后 dotnet/runtime#79460，dotnet/runtime#80355，dotnet/runtime#82357，dotnet/runtime#82533，和 dotnet/runtime#85858 在核心库中更广泛地推出了它们的使用。为了了解这些方法的实用性，以下是我写这段文字时，每个方法在 dotnet/runtime 的核心库的 src 中被调用的次数：
这些新方法也在抛出部分做了更多的工作（例如，用无效的参数格式化异常消息），这有助于更好地说明将所有这些工作移出到一个单独的方法的好处。例如，这是直接从 System.Private.CoreLib 复制的 ThrowIfGreaterThan：
public static void ThrowIfGreaterThan<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>
{
if (value.CompareTo(other) > 0)
ThrowGreater(value, other, paramName);
}
private static void ThrowGreater<T>(T value, T other, string? paramName) =>
throw new ArgumentOutOfRangeException(paramName, value, SR.Format(SR.ArgumentOutOfRange_Generic_MustBeLessOrEqual, paramName, value, other));
这里有一个基准测试，显示了如果抛出表达式直接作为 ThrowIfGreaterThan 的一部分，消耗会是什么样子：
// dotnet run -c Release -f net8.0 --filter "*"
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Runtime.CompilerServices;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD", "value1", "value2")]
[DisassemblyDiagnoser]
public class Tests
{
[Benchmark(Baseline = true)]
[Arguments(1, 2)]
public void WithOutline(int value1, int value2)
{
ArgumentOutOfRangeException.ThrowIfGreaterThan(value1, 100);
ArgumentOutOfRangeException.ThrowIfGreaterThan(value2, 200);
}
[Benchmark]
[Arguments(1, 2)]
public void WithInline(int value1, int value2)
{
ThrowIfGreaterThan(value1, 100);
ThrowIfGreaterThan(value2, 200);
}
public static void ThrowIfGreaterThan<T>(T value, T other, [CallerArgumentExpression(nameof(value))] string? paramName = null) where T : IComparable<T>
{
if (value.CompareTo(other) > 0)
throw new ArgumentOutOfRangeException(paramName, value, SR.Format(SR.ArgumentOutOfRange_Generic_MustBeLessOrEqual, paramName, value, other));
}
internal static class SR
{
public static string Format(string format, object arg0, object arg1, object arg2) => string.Format(format, arg0, arg1, arg2);
internal static string ArgumentOutOfRange_Generic_MustBeLessOrEqual => GetResourceString("ArgumentOutOfRange_Generic_MustBeLessOrEqual");
[MethodImpl(MethodImplOptions.NoInlining)]
static string GetResourceString(string resourceKey) => "{0} ('{1}') must be less than or equal to '{2}'.";
}
}
生成的汇编代码中，最相关的亮点来自 WithInline 情况：
; Tests.WithInline(Int32, Int32)
push rbx
sub rsp,20
mov ebx,r8d
mov ecx,edx
mov edx,64
mov r8,1F5815EA8F8
call qword ptr [7FF99C03DEA8]; Tests.ThrowIfGreaterThan[[System.Int32, System.Private.CoreLib]](Int32, Int32, System.String)
mov ecx,ebx
mov edx,0C8
mov r8,1F5815EA920
add rsp,20
pop rbx
jmp qword ptr [7FF99C03DEA8]; Tests.ThrowIfGreaterThan[[System.Int32, System.Private.CoreLib]](Int32, Int32, System.String)
; Total bytes of code 59
因为 ThrowIfGreaterThan 方法中有更多的杂项，系统决定不将其内联，所以即使值在范围内，我们也会有两个方法调用（第一个是调用，第二个是 jmp，因为这个方法中没有后续的工作需要返回控制流）。
为了更容易地推广这些助手的使用，dotnet/roslyn-analyzers#6293 添加了新的分析器，用于查找可以由 ArgumentNullException、ArgumentException、ArgumentOutOfRangeException 或 ObjectDisposedException 上的 throw helper 方法替换的参数验证。dotnet/runtime#80149 为 dotnet/runtime 启用了分析器，并修复了许多调用站点。
Reflection 反射
在 .NET 8 的反射堆栈中，有各种各样的改进，主要围绕减少分配和缓存信息，以便后续访问更快。例如，dotnet/runtime#87902 调整了 GetCustomAttributes 中的一些代码，以避免分配一个object[1]数组来设置属性的值。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
[Benchmark]
public object[] GetCustomAttributes() => typeof(C).GetCustomAttributes(typeof(MyAttribute), inherit: true);
[My(Value1 = 1, Value2 = 2)]
class C { }
[AttributeUsage(AttributeTargets.All)]
public class MyAttribute : Attribute
{
public int Value1 { get; set; }
public int Value2 { get; set; }
}
}
像 dotnet/runtime#76574，dotnet/runtime#81059，和 dotnet/runtime#86657 这样的其他改变也减少了反射堆栈中的分配，特别是通过更自由地使用 spans。而来自 @lateapexearlyspeed 的 dotnet/runtime#78288 改进了 Type 上泛型信息的处理，从而提升了各种与泛型相关的成员，特别是对于 GetGenericTypeDefinition，其结果现在被缓存在 Type 对象上。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly Type _type = typeof(List<int>);
[Benchmark] public Type GetGenericTypeDefinition() => _type.GetGenericTypeDefinition();
}
然而，在 .NET 8 中，反射性能的最大影响来自 dotnet/runtime#88415。这是在 .NET 7 中改进 MethodBase.Invoke 性能的工作的延续。当你在编译时知道你想通过反射调用的目标方法的签名时，你可以通过使用 CreateDelegate
// If you have .NET 6 installed, you can update the csproj to include a net6.0 in the target frameworks, and then run:
// dotnet run -c Release -f net6.0 --filter "*" --runtimes net6.0 net7.0 net8.0
// Otherwise, you can run:
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Reflection;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private MethodInfo _method0, _method1, _method2, _method3;
private readonly object[] _args1 = new object[] { 1 };
private readonly object[] _args2 = new object[] { 2, 3 };
private readonly object[] _args3 = new object[] { 4, 5, 6 };
[GlobalSetup]
public void Setup()
{
_method0 = typeof(Tests).GetMethod("MyMethod0", BindingFlags.NonPublic | BindingFlags.Static);
_method1 = typeof(Tests).GetMethod("MyMethod1", BindingFlags.NonPublic | BindingFlags.Static);
_method2 = typeof(Tests).GetMethod("MyMethod2", BindingFlags.NonPublic | BindingFlags.Static);
_method3 = typeof(Tests).GetMethod("MyMethod3", BindingFlags.NonPublic | BindingFlags.Static);
}
[Benchmark] public void Method0() => _method0.Invoke(null, null);
[Benchmark] public void Method1() => _method1.Invoke(null, _args1);
[Benchmark] public void Method2() => _method2.Invoke(null, _args2);
[Benchmark] public void Method3() => _method3.Invoke(null, _args3);
private static void MyMethod0() { }
private static void MyMethod1(int arg1) { }
private static void MyMethod2(int arg1, int arg2) { }
private static void MyMethod3(int arg1, int arg2, int arg3) { }
}
然而，这里每次调用都涉及到一些开销，并且每次调用都会重复。如果我们可以提前提取这些工作，一次性完成，并进行缓存，我们可以实现更好的性能。这正是新的 MethodInvoker 和 ConstructorInvoker 类型在 dotnet/runtime#88415 中实现的功能。这些并没有包含所有 MethodBase.Invoke 处理的不常见错误（如特别识别和处理 Type.Missing），但对于其他所有情况，它为优化在构建时未知签名的方法的重复调用提供了一个很好的解决方案。
// dotnet run -c Release -f net8.0 --filter "*"
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Reflection;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly object _arg0 = 4, _arg1 = 5, _arg2 = 6;
private readonly object[] _args3 = new object[] { 4, 5, 6 };
private MethodInfo _method3;
private MethodInvoker _method3Invoker;
[GlobalSetup]
public void Setup()
{
_method3 = typeof(Tests).GetMethod("MyMethod3", BindingFlags.NonPublic | BindingFlags.Static);
_method3Invoker = MethodInvoker.Create(_method3);
}
[Benchmark(Baseline = true)]
public void MethodBaseInvoke() => _method3.Invoke(null, _args3);
[Benchmark]
public void MethodInvokerInvoke() => _method3Invoker.Invoke(null, _arg0, _arg1, _arg2);
private static void MyMethod3(int arg1, int arg2, int arg3) { }
}
根据 dotnet/runtime#90119，这些类型然后被 Microsoft.Extensions.DependencyInjection.Abstractions 中的 ActivatorUtilities.CreateFactory 方法使用，以进一步提高 DI 服务构建性能。dotnet/runtime#91881 通过添加额外的缓存层进一步改进，进一步避免每次构建时的反射。
Primitives 基础类型
令人难以置信的是，经过二十年，我们仍然有机会改进 .NET 的核心基元类型，然而我们就在这里。其中一些来自于驱动优化进入不同地方的新场景；一些来自于基于新支持的新机会，使得可以采用不同的方法来解决同一个问题；一些来自于新的研究，突出了解决问题的新方法；还有一些简单地来自于许多新的眼睛看一个磨损的空间（好开源！）无论原因如何，在 .NET 8 中这里有很多值得兴奋的地方。
枚举
让我们从枚举开始。枚举显然自从 .NET 的早期就开始存在，并且被广泛使用。尽管枚举的功能和实现已经演变，也获得了新的 API，但核心在于，数据如何存储在枚举中多年来基本上保持不变。在 .NET Framework 的实现中，有一个内部的 ValuesAndNames 类，它存储一个 ulong[] 和一个 string[]，在 .NET 7 中，有一个 EnumInfo 用于同样的目的。那个 string[] 包含所有枚举值的名称，ulong[] 存储它们的数字对应项。它是一个 ulong[]，以容纳 Enum 可以是的所有可能的底层类型，包括 C# 支持的（sbyte，byte，short，ushort，int，uint，long，ulong）和运行时额外支持的（nint，nuint，char，float，double），尽管实际上没有人使用这些（部分 bool 支持也曾经在这个列表上，但在 .NET 8 中在 dotnet/runtime#79962 中被 @pedrobsaila 删除）。
顺便说一句，作为所有这些工作的一部分，我们检查了广泛的适当许可的 NuGet 包，寻找它们使用枚举的最常见的底层类型。在找到的大约 163 百万个枚举中，这是它们底层类型的分布。结果可能并不令人惊讶，考虑到 Enum 的默认底层类型，但它仍然很有趣：
枚举底层类型的常见程度的图表
在枚举如何存储其数据的设计中有几个问题。每个操作都在这些 ulong[] 值和特定枚举使用的实际类型之间进行转换，而且数组通常比需要的大两倍（int 是枚举的默认底层类型，并且，如上图所示，迄今为止最常使用）。这种方法还导致处理所有近年来添加到 Enum 中的新泛型方法时，会产生大量的汇编代码膨胀。枚举是结构体，当结构体被用作泛型类型参数时，JIT 为该值类型专门化代码（而对于引用类型，它发出一个由所有这些类型使用的单一共享实现）。这种专门化对于吞吐量来说是很好的，但这意味着你得到了它用于的每个值类型的代码副本；如果你有很多代码（例如 Enum 格式化）和很多可能被替换的类型（例如每个声明的枚举类型），那么代码大小可能会大幅增加。
为了解决所有这些问题，现代化实现，并使各种操作更快，dotnet/runtime#78580 重写了 Enum。它不再使用一个非泛型的 EnumInfo 来存储所有值的 ulong[] 数组，而是引入了一个泛型的 EnumInfo
Enum 也进行了其他改进。dotnet/runtime#76162 提高了各种方法（如 ToString 和 IsDefined）的性能，在所有枚举的定义值从 0 开始连续的情况下。在这种常见情况下，查找 EnumInfo
所有这些更改的最终结果是一些非常好的性能提升：
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
private readonly DayOfWeek _dow = DayOfWeek.Saturday;
[Benchmark] public bool IsDefined() => Enum.IsDefined(_dow);
[Benchmark] public string GetName() => Enum.GetName(_dow);
[Benchmark] public string[] GetNames() => Enum.GetNames<DayOfWeek>();
[Benchmark] public DayOfWeek[] GetValues() => Enum.GetValues<DayOfWeek>();
[Benchmark] public Array GetUnderlyingValues() => Enum.GetValuesAsUnderlyingType<DayOfWeek>();
[Benchmark] public string EnumToString() => _dow.ToString();
[Benchmark] public bool TryParse() => Enum.TryParse<DayOfWeek>("Saturday", out _);
}
然而，这些更改也使枚举与字符串插值更加融洽。
首先，枚举现在具有一个新的静态 TryFormat 方法，可以直接将枚举的字符串表示格式化为 Span
public static bool TryFormat<TEnum>(TEnum value, Span<char> destination,
out int charsWritten,
[StringSyntax(StringSyntaxAttribute.EnumFormat)] ReadOnlySpan<char> format = default)
where TEnum : struct, Enum
第二，枚举现在实现了 ISpanFormattable，因此任何使用值 ISpanFormattable.TryFormat 方法的代码现在也可以在枚举上使用。然而，尽管枚举是值类型，但它们在引用类型 Enum 派生，这意味着调用实例方法（如 ToString 或 ISpanFormattable.TryFormat）时，会将枚举值进行装箱。
所以，第三，System.Private.CoreLib 中的各种插值字符串处理程序已更新为特殊处理 typeof(T).IsEnum，如前所述，现在由于即时编译（JIT）优化，这个操作实际上是开销为0。直接使用 Enum.TryFormat 以避免装箱。我们可以通过运行以下基准测试来查看这种情况的影响：
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
private readonly char[] _dest = new char[100];
private readonly FileAttributes _attr = FileAttributes.Hidden | FileAttributes.ReadOnly;
[Benchmark]
public bool Interpolate() => _dest.AsSpan().TryWrite($"Attrs: {_attr}", out int charsWritten);
}
Numbers
这样的格式化改进并不仅仅局限于枚举。在 .NET 8 中，数字格式化的性能也获得了一组不错的改进。Daniel Lemire 有一篇 2021 年的博客文章，讨论了各种计算整数中数字位数的方法。数字位数与数字格式化密切相关，因为我们需要知道数字将占用多少个字符，以便分配合适长度的字符串进行格式化，或确保目标缓冲区具有足够的长度。dotnet/runtime#76519 将在 .NET 的数字格式化内部实现这一点，为计算格式化值中的数字位数提供了一种无分支、基于表的查找解决方案。
dotnet/runtime#76726 进一步提高了性能，它使用了其他格式化库使用的技巧。格式化十进制数中最昂贵的部分之一是除以 10 来获取每个数字；如果我们可以减少除法的数量，我们就可以减少整个格式化操作的总体开销。这里的技巧是，我们不是为数字中的每个数字除以 10，而是为数字中的每对数字除以 100，然后有一个预先计算的查找表，用于所有 0 到 99 的值的基于字符的表示。这让我们可以将除法的数量减半。
dotnet/runtime#79061 还扩展了 .NET 中已经存在的一个先前的优化。格式化代码包含了一个预先计算的单个数字字符串的表，所以如果你要求等效于 0.ToString()，实现不需要分配一个新的字符串，它只需要从表中获取 "0" 并返回。这个 PR 将这个缓存从单个数字扩展到所有 0 到 299 的数字（它也使缓存变得懒惰，这样我们不需要为从未使用的值的字符串付费）。选择 299 有些随意，如果需要的话，将来可以提高，但在检查各种服务的数据时，这解决了来自数字格式化的大部分分配。巧合的是，它也包括了 HTTP 协议的所有成功状态代码。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
[Benchmark]
[Arguments(12)]
[Arguments(123)]
[Arguments(1_234_567_890)]
public string Int32ToString(int i) => i.ToString();
}
在 .NET 8 中，数字还获得了作为二进制格式化（通过 dotnet/runtime#84889）和从二进制解析（通过 dotnet/runtime#84998）的能力，通过新的“b”指定符。例如：
// dotnet run -f net8.0
int i = 12345;
Console.WriteLine(i.ToString("x16")); // 16 hex digits
Console.WriteLine(i.ToString("b16")); // 16 binary digits
outputs:
0000000000003039
0011000000111001
然后，该实现被用来重新实现现有的 Convert.ToString(int value, int toBase) 方法，使其也现在被优化：
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly int _value = 12345;
[Benchmark]
public string ConvertBinary() => Convert.ToString(_value, 2);
}
在对基本类型（数字和其他）的重大增加中，.NET 8 还引入了新的 IUtf8SpanFormattable 接口。ISpanFormattable 在 .NET 6 中引入，以及许多类型上的 TryFormat 方法，使这些类型能够直接格式化到 Span
public interface ISpanFormattable : IFormattable
{
bool TryFormat(Span<char> destination, out int charsWritten, ReadOnlySpan<char> format, IFormatProvider? provider);
}
现在在 .NET 8 中，我们也有了 IUtf8SpanFormattable 接口：
public interface IUtf8SpanFormattable
{
bool TryFormat(Span<byte> utf8Destination, out int bytesWritten, ReadOnlySpan<char> format, IFormatProvider? provider);
}
这使得类型可以直接格式化到 Span
public bool TryFormat(Span<char> destination, out int charsWritten, [StringSyntax(StringSyntaxAttribute.NumericFormat)] ReadOnlySpan<char> format = default, IFormatProvider? provider = null);
public bool TryFormat(Span<byte> utf8Destination, out int bytesWritten, [StringSyntax(StringSyntaxAttribute.NumericFormat)] ReadOnlySpan<char> format = default, IFormatProvider? provider = null);
它们具有完全相同的功能，支持完全相同的格式字符串，具有相同的一般性能特性，等等，只是在写出 UTF16 或 UTF8 上有所不同。我怎么能这么确定它们是如此相似呢？因为，鼓声，它们共享相同的实现。多亏了泛型，上面的两个方法都委托给了完全相同的帮助器：
public static bool TryFormatUInt64<TChar>(ulong value, ReadOnlySpan<char> format, IFormatProvider? provider, Span<TChar> destination, out int charsWritten)
只是其中一个 TChar 为 char，另一个为 byte。所以，当我们运行像这样的基准测试时：
// dotnet run -c Release -f net8.0 --filter "*"
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly ulong _value = 12345678901234567890;
private readonly char[] _chars = new char[20];
private readonly byte[] _bytes = new byte[20];
[Benchmark] public void FormatUTF16() => _value.TryFormat(_chars, out _);
[Benchmark] public void FormatUTF8() => _value.TryFormat(_bytes, out _);
}
我们得到的结果几乎是完全相同的：
现在，基本类型本身能够以完全保真的 UTF8 格式化，Utf8Formatter 类在很大程度上变得过时了。实际上，前面提到的 PR 也删除了 Utf8Formatter 的实现，并将其重新定位在基本类型的相同格式化逻辑之上。所有之前引用的数字格式化的性能改进不仅适用于 ToString 和 TryFormat 的 UTF16，不仅适用于 UTF8 的 TryFormat，而且还适用于 Utf8Formatter（此外，删除重复的代码和减少维护负担让我感到兴奋）。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Buffers.Text;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly byte[] _bytes = new byte[10];
[Benchmark]
[Arguments(123)]
[Arguments(1234567890)]
public bool Utf8FormatterTryFormat(int i) => Utf8Formatter.TryFormat(i, _bytes, out int bytesWritten);
}
不仅所有这些类型都直接支持 UTF8 格式化，而且还支持解析。dotnet/runtime#86875 添加了新的 IUtf8SpanParsable
DateTime
解析和格式化在其他类型上也得到了改进。以 DateTime 和 DateTimeOffset 为例。dotnet/runtime#84963 改进了 DateTime{Offset} 格式化的各种方面：
- 格式化逻辑具有通用支持作为后备，并支持任何自定义格式，但然后有专用的例程用于最流行的格式，允许它们被优化和调整。对于非常流行的 "r"（RFC1123 模式）和 "o"（往返日期/时间模式）格式，已经存在专用的例程；此 PR 为默认格式（"G"）添加了专用例程，当与不变文化一起使用时，"s" 格式（可排序的日期/时间模式），和 "u" 格式（通用可排序的日期/时间模式），所有这些在各种领域中都经常使用。
- 对于 "U" 格式（通用完整日期/时间模式），实现最终总是会分配新的 DateTimeFormatInfo 和 GregorianCalendar 实例，即使只在罕见的后备情况下需要，也会导致大量的分配。这修复了它，只有在真正需要时才分配。
- 当没有专用的格式化例程时，格式化是在一个名为 ValueListBuilder<T> 的内部 ref 结构中完成的，该结构以提供的 span 缓冲区开始（通常从 stackalloc 中构建），然后根据需要使用 ArrayPool 内存增长。格式化完成后，该构建器要么被复制到目标 span，要么被复制到新的字符串，这取决于触发格式化的方法。然而，如果我们只是用目标 span 构建器，我们可以避免对目标 span 的复制。然后，如果构建器在格式化完成时仍包含初始 span（没有超出它的增长），我们知道所有数据都适合，我们可以跳过复制，因为所有数据已经在那里。
以下是一些示例影响：
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Globalization;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
private readonly DateTime _dt = new DateTime(2023, 9, 1, 12, 34, 56);
private readonly char[] _chars = new char[100];
[Params(null, "s", "u", "U", "G")]
public string Format { get; set; }
[Benchmark] public string DT_ToString() => _dt.ToString(Format);
[Benchmark] public string DT_ToStringInvariant() => _dt.ToString(Format, CultureInfo.InvariantCulture);
[Benchmark] public bool DT_TryFormat() => _dt.TryFormat(_chars, out _, Format);
[Benchmark] public bool DT_TryFormatInvariant() => _dt.TryFormat(_chars, out _, Format, CultureInfo.InvariantCulture);
}
解析也有了显著的改进。例如，dotnet/runtime#82877 改进了自定义格式字符串中“ddd”（一周中某天的缩写名称）、“dddd”（一周中某天的全名）、“MMM”（月份的缩写名称）和“MMMM”（月份的全名）的处理；这些在各种常用格式字符串中都有出现，比如在 RFC1123 格式的扩展定义中：ddd, dd MMM yyyy HH':'mm':'ss 'GMT'。当通用解析例程在格式字符串中遇到这些时，它需要查阅提供的 CultureInfo / DateTimeFormatInfo，以获取该语言区域设置的相关月份和日期名称，例如 DateTimeFormatInfo.GetAbbreviatedMonthName，然后需要对每个名称和输入文本进行语言忽略大小写的比较；开销很大。然而，如果我们得到的是一个不变的语言区域设置，我们可以做得更快，快得多。以“MMM”为例，代表缩写的月份名称。我们可以读取接下来的三个字符（uint m0 = span[0], m1 = span[1], m2 = span[2]），确保它们都是 ASCII ((m0 | m1 | m2) <= 0x7F)，然后将它们全部合并成一个单独的 uint，使用之前讨论过的相同的 ASCII 大小写技巧 ((m0 << 16) | (m1 << 8) | m2 | 0x202020)。我们可以对每个月份名称做同样的事情，这些对于不变的语言区域设置我们提前知道，整个查找变成了一个单一的数字切换：
switch ((m0 << 16) | (m1 << 8) | m2 | 0x202020)
{
case 0x6a616e: /* 'jan' */ result = 1; break;
case 0x666562: /* 'feb' */ result = 2; break;
case 0x6d6172: /* 'mar' */ result = 3; break;
case 0x617072: /* 'apr' */ result = 4; break;
case 0x6d6179: /* 'may' */ result = 5; break;
case 0x6a756e: /* 'jun' */ result = 6; break;
case 0x6a756c: /* 'jul' */ result = 7; break;
case 0x617567: /* 'aug' */ result = 8; break;
case 0x736570: /* 'sep' */ result = 9; break;
case 0x6f6374: /* 'oct' */ result = 10; break;
case 0x6e6f76: /* 'nov' */ result = 11; break;
case 0x646563: /* 'dec' */ result = 12; break;
default: maxMatchStrLen = 0; break; // undo match assumption
}
非常巧妙，而且速度快得多。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Globalization;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
private const string Format = "ddd, dd MMM yyyy HH':'mm':'ss 'GMT'";
private readonly string _s = new DateTime(1955, 11, 5, 6, 0, 0, DateTimeKind.Utc).ToString(Format, CultureInfo.InvariantCulture);
[Benchmark]
public void ParseExact() => DateTimeOffset.ParseExact(_s, Format, CultureInfo.InvariantCulture, DateTimeStyles.AllowInnerWhite | DateTimeStyles.AssumeUniversal);
}
其他各种 PR 也有所贡献。上一个基准测试中分配的减少要归功于 dotnet/runtime#82861，它移除了当格式字符串包含引号时可能发生的字符串分配；PR 简单地用 span 替换了字符串分配。dotnet/runtime#82925 进一步通过移除一些最终被证明是不必要的工作，移除虚拟调度，并对代码路径进行一般性的精简，降低了使用“r”和“o”格式解析的成本。而 dotnet/runtime#84964 移除了在使用某些文化进行 ParseExact 解析时发生的一些 string[] 分配，特别是那些使用了月份名词所有格的文化。如果解析器需要检索 MonthGenitiveNames 或 AbbreviatedMonthGenitiveNames 数组，它会通过 DateTimeFormatInfo 上的这些公共属性来实现；然而，由于担心代码可能会改变这些数组，这些公共属性返回的是副本。这意味着每次解析器访问其中一个时，它都会分配一个副本。解析器可以直接访问底层的原始数组，并保证不改变它。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Globalization;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
private readonly CultureInfo _ci = new CultureInfo("ru-RU");
[Benchmark] public DateTime Parse() => DateTime.ParseExact("вторник, 18 апреля 2023 04:31:26", "dddd, dd MMMM yyyy HH:mm:ss", _ci);
}
DateTime 和 DateTimeOffset 也实现了 IUtf8SpanFormattable，这要归功于 dotnet/runtime#84469，就像数值类型一样，这些实现都在 UTF16 和 UTF8 之间共享；因此，前面提到的所有优化都适用于这两者。同样，Utf8Formatter 对 DateTimeOffset 格式化的支持也是基于这同样的共享逻辑。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
using System.Buffers.Text;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly DateTime _dt = new DateTime(2023, 9, 1, 12, 34, 56);
private readonly byte[] _bytes = new byte[100];
[Benchmark] public bool TryFormatUtf8Formatter() => Utf8Formatter.TryFormat(_dt, _bytes, out _);
}
既然我们在谈论 DateTime，那就简单谈谈 TimeZoneInfo。TimeZoneInfo.FindSystemTimeZoneById 可以获取指定标识符的 TimeZoneInfo 对象。.NET 6 引入的一个改进是，FindSystemTimeZoneById 支持 Windows 时间区集和 IANA 时间区集，无论在 Windows、Linux 还是 macOS 上运行。然而，只有当 TimeZoneInfo 的 ID 与当前操作系统匹配时，它才会被缓存，因此，解析到其他集的调用不会被缓存满足，而是回退到从操作系统重新读取。dotnet/runtime#85615 确保在两种情况下都可以使用缓存。它还允许直接返回不可变的 TimeZoneInfo 对象，而不是在每次访问时克隆它们。dotnet/runtime#88368 还改进了 TimeZoneInfo，特别是在 Linux 和 macOS 上的 GetSystemTimeZones，通过延迟加载几个属性。dotnet/runtime#89985 则在此基础上进行了改进，提供了一个新的 GetSystemTimeZones 重载，允许调用者跳过实现在结果上执行的排序。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
[Benchmark]
[Arguments("America/Los_Angeles")]
[Arguments("Pacific Standard Time")]
public TimeZoneInfo FindSystemTimeZoneById(string id) => TimeZoneInfo.FindSystemTimeZoneById(id);
}
Guid
格式化和解析的改进不仅限于数值和日期类型。Guid 也参与其中。多亏了 dotnet/runtime#84553，Guid 实现了 IUtf8SpanFormattable，就像所有其他情况一样，它在 UTF16 和 UTF8 支持之间共享完全相同的例程。然后 dotnet/runtime#81650，dotnet/runtime#81666 和 dotnet/runtime#87126 由 @SwapnilGaikwad 提供的向量化格式化支持。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
public class Tests
{
private readonly Guid _guid = Guid.Parse("7BD626F6-4396-41E3-A491-4B1DC538DD92");
private readonly char[] _dest = new char[100];
[Benchmark]
[Arguments("D")]
[Arguments("N")]
[Arguments("B")]
[Arguments("P")]
public bool TryFormat(string format) => _guid.TryFormat(_dest, out _, format);
}
在从基元和数值类型转向其他主题之前，让我们快速看一下 System.Random，它有一些方法可以生成伪随机数值。
Random
dotnet/runtime#79790 来自 @mla-alm，它在 Random 中提供了一个基于 @lemire 的无偏范围函数的实现。当调用像 Next(int min, int max) 这样的方法时，它需要提供在范围 [min, max) 内的值。为了提供一个无偏的答案，.NET 7 的实现生成一个 32 位的值，将范围缩小到包含最大值的最小的 2 的幂（通过取最大值的 log2 并进行移位以丢弃位），然后检查结果是否小于最大值：如果是，它返回结果作为答案。但如果不是，它会拒绝该值（这个过程被称为“拒绝采样”）并循环重新开始整个过程。虽然当前方法产生每个样本的开销并不会很高，但这种判断方法的性质使得随机出来的样本可能会无效，这意味着需要不断循环和重试。使用新的方法，它实际上实现了模数减少（例如 Next() % max），除了用更简便的乘法和移位替换昂贵的模数操作；虽然还使用了一个“拒绝采样”，但它纠正的偏差发生的频率更低，因此更耗时的可能性发生的频率也更低。最终的结果是，Random 的方法的吞吐量平均上有了很好的提升（Random 也可以从动态 PGO 中获得提升，因为 Random 使用的内部抽象可以被去虚拟化，所以我在这里展示了启用和未启用 PGO 的影响。）
// dotnet run -c Release -f net7.0 --filter "*"
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Configs;
using BenchmarkDotNet.Environments;
using BenchmarkDotNet.Jobs;
using BenchmarkDotNet.Running;
var config = DefaultConfig.Instance
.AddJob(Job.Default.WithId(".NET 7").WithRuntime(CoreRuntime.Core70).AsBaseline())
.AddJob(Job.Default.WithId(".NET 8 w/o PGO").WithRuntime(CoreRuntime.Core80).WithEnvironmentVariable("DOTNET_TieredPGO", "0"))
.AddJob(Job.Default.WithId(".NET 8").WithRuntime(CoreRuntime.Core80));
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args, config);
[HideColumns("Error", "StdDev", "Median", "RatioSD", "EnvironmentVariables")]
public class Tests
{
private static readonly Random s_rand = new();
[Benchmark]
public int NextMax() => s_rand.Next(12345);
}
dotnet/runtime#87219 由 @MichalPetryka 提出，然后进一步对此进行了优化，以适用于长值。算法的核心部分涉及将随机值乘以最大值，然后取乘积的低位部分：
UInt128 randomProduct = (UInt128)maxValue * xoshiro.NextUInt64();
ulong lowPart = (ulong)randomProduct;
这可以通过不使用 UInt128 的乘法实现，而是使用 Math.BigMul 来提高效率，
ulong randomProduct = Math.BigMul(maxValue, xoshiro.NextUInt64(), out ulong lowPart);
它是通过使用 Bmi2.X64.MultiplyNoFlags 或 Armbase.Arm64.MultiplyHigh 内部函数来实现的，当其中一个可用时。
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD", "EnvironmentVariables")]
public class Tests
{
private static readonly Random s_rand = new();
[Benchmark]
public long NextMinMax() => s_rand.NextInt64(123456789101112, 1314151617181920);
}
// dotnet run -c Release -f net7.0 --filter "*" --runtimes net7.0 net8.0
using BenchmarkDotNet.Attributes;
using BenchmarkDotNet.Running;
BenchmarkSwitcher.FromAssembly(typeof(Tests).Assembly).Run(args);
[HideColumns("Error", "StdDev", "Median", "RatioSD")]
[MemoryDiagnoser(displayGenColumns: false)]
public class Tests
{
[Benchmark] public Random NewDerived() => new NotRandomRandom();
private sealed class NotRandomRandom : Random { }
}
原载：http://www.cnblogs.com/yahle
版权所有。转载时必须以链接形式注明作者和原始出处。