Skip to content

搞英语 → 看世界

翻译英文优质信息和名人推特

Menu
  • 首页
  • 作者列表
  • 独立博客
  • 专业媒体
  • 名人推特
  • 邮件列表
  • 关于本站
Menu

使用 std::views::split 更简单、更快地解析代码

Posted on 2024-12-22

无论您使用哪种编程语言,解析文本文件通常都会令人困惑。它也可能慢得令人惊讶。

例如,让我们考虑以下问题。您有一个逗号分隔值文件。它是一个由多行组成的文本文件,每行由逗号分隔为多个字段。 Excel 电子表格通常导出为逗号分隔值文件。您只想提取一列并对其进行迭代。

我向 ChatGPT 寻求 C++ 解决方案,它给了我以下代码:

 std :: vector < std :: string > get_column ( const std :: string & input , 
  
size_t row_number ,字符分隔符= ',' ) { 
  
std :: vector < std :: string >行; 
  
std :: istringstream iss (输入) ; 
  
std ::字符串行; 
  
 
  
// 将字符串分割成行 
  
while ( std :: getline ( iss ,行) ) { 
  
 行。推回(行) ; 
  
} 
  
 
  
std :: vector < std :: string >结果; 
  
for ( const auto & r :行) { 
  
std :: istringstream row_stream ( r ) ; 
  
std ::字符串字段; 
  
size_t索引= 0 ; 
  
 
  
while ( std :: getline ( row_stream ,字段,分隔符) ) { 
  
如果(索引==行号) { 
  
 结果。推回(字段) ; 
  
休息; 
  
} 
  
+ +索引; 
  
} 
  
} 
  
 
  
返回结果; 
  
} 
  

该函数采用表示类似 CSV 数据的字符串输入、列索引 row_number 和可选分隔符(默认为逗号)。它将输入字符串拆分为行,然后对于每一行,它根据分隔符进一步将行拆分为字段。它将每行中指定列索引处的字段收集到一个字符串向量中,然后返回该向量。

这是非常糟糕的代码。我不认为任何专业的 C++ 程序员会写出如此糟糕的代码。但话又说回来,我可能会感到惊讶。

如果您拥有使用 C++20 的现代系统,则可以使用std::views::split编写更少的代码并获得高性能。让我演示一下:

自动get_column_cxx20 ( std :: string_view 数据, 
  
size_t row_number ,字符分隔符= ',' ) { 
  
自动行=数据| std :: views :: split ( '\n' ) ; 
  
自动列= 
  
 行| 
  
std ::视图::变换( 
  
[分隔符,行号] (自动&&行) { 
  
自动字段=行| std :: views :: split (分隔符) ; 
  
auto it = std :: ranges :: begin (字段) ; 
  
std :: Advance ( it , row_number ) ; 
  
返回*它; 
  
} ) | 
  
std :: views :: transform ( [ ] ( auto && rng ) - > std :: string_view { 
  
返回std :: string_view ( & * rng . begin ( ) , 
  
std ::范围::距离( rng ) ) ; 
  
} ) ; 
  
返回栏; 
  
}

该函数使用 C++20 的范围和视图从表示为std::string_view 的类 CSV 数据中提取特定列。它首先使用换行符将输入数据拆分为行,然后应用一系列转换:根据分隔符将每行拆分为字段,选择指定列索引 (row_number) 处的字段,最后将这些选定的字段转换回std::string_view 对象。这种方法具有内存效率高的特点,因为它避免了复制数据,使用惰性求值仅在必要时处理数据。

我编写了一个小型基准测试,其中使用现有的 CSV 文件,要求提供第二列,然后将该列的宽度相加。使用 LLVM 16 和 Apple M2 处理器,我得到以下结果:

老派 0.11GB/秒
std::视图::分割 2.6GB/秒

重要的是,没有磁盘访问。一切都在记忆中。因此,老式方法的计算速度纯粹受限于微不足道的 0.11 GB/s。我的源代码可以在 GitHub 上找到。

我没有尝试调整std::views::split方法。我怀疑我们可以通过进一步调整来获得更多性能。但它已经比简单的方法快了 20 倍。

字符串上的应用程序 std::views::split 的主要烦恼是它可以自然地处理范围和子范围,而我更喜欢使用std::string_view实例。因此,我们看到代码中包含了一个丑陋的转换例程。我还没有找到简化这部分代码的方法。

原文: https://lemire.me/blog/2024/12/21/simpler-and-faster-parsing-code-with-stdviewssplit/

本站文章系自动翻译,站长会周期检查,如果有不当内容,请点此留言,非常感谢。
  • Abhinav
  • Abigail Pain
  • Adam Fortuna
  • Alberto Gallego
  • Alex Wlchan
  • Answer.AI
  • Arne Bahlo
  • Ben Carlson
  • Ben Kuhn
  • Bert Hubert
  • Bits about Money
  • Brian Krebs
  • ByteByteGo
  • Chip Huyen
  • Chips and Cheese
  • Christopher Butler
  • Colin Percival
  • Cool Infographics
  • Dan Sinker
  • David Walsh
  • Dmitry Dolzhenko
  • Dustin Curtis
  • Elad Gil
  • Ellie Huxtable
  • Ethan Marcotte
  • Exponential View
  • FAIL Blog
  • Founder Weekly
  • Geoffrey Huntley
  • Geoffrey Litt
  • Greg Mankiw
  • Henrique Dias
  • Hypercritical
  • IEEE Spectrum
  • Investment Talk
  • Jaz
  • Jeff Geerling
  • Jonas Hietala
  • Josh Comeau
  • Lenny Rachitsky
  • Liz Danzico
  • Lou Plummer
  • Luke Wroblewski
  • Matt Baer
  • Matt Stoller
  • Matthias Endler
  • Mert Bulan
  • Mostly metrics
  • News Letter
  • NextDraft
  • Non_Interactive
  • Not Boring
  • One Useful Thing
  • Phil Eaton
  • Product Market Fit
  • Readwise
  • ReedyBear
  • Robert Heaton
  • Ruben Schade
  • Sage Economics
  • Sam Altman
  • Sam Rose
  • selfh.st
  • Shtetl-Optimized
  • Simon schreibt
  • Slashdot
  • Small Good Things
  • Taylor Troesh
  • Telegram Blog
  • The Macro Compass
  • The Pomp Letter
  • thesephist
  • Thinking Deep & Wide
  • Tim Kellogg
  • Understanding AI
  • 英文媒体
  • 英文推特
  • 英文独立博客
©2025 搞英语 → 看世界 | Design: Newspaperly WordPress Theme