Pythonの正規表現モジュールreの使い方(match, search, subなど)
Pythonで正規表現の処理を行うには標準ライブラリのreモジュールを使う。正規表現パターンによる文字列の抽出や置換、分割などができる。
ここではまずreモジュールの関数やメソッドについて説明し、そのあとで、reモジュールで使える正規表現のメタ文字(特殊文字)・特殊シーケンスについて説明する。基本的には標準的な正規表現のシンタックスだが、フラグの設定(特にre.ASCII
)は要注意。
正規表現パターンをコンパイル: compile()
reモジュールで正規表現の処理を実行する方法は2つある。
関数で実行
1つ目は関数。re.match()
, re.sub()
のように正規表現パターンを用いた抽出や置換などの処理を行う関数が用意されている。
関数の詳細については後述するが、いずれも第一引数に正規表現パターンの文字列を指定し、その後に処理する文字列などを指定するようになっている。
import re
s = '[email protected] [email protected] [email protected]'
print(re.match(r'([a-z]+)@([a-z]+)\.com', s))
# <re.Match object; span=(0, 11), match='[email protected]'>
print(re.sub(r'([a-z]+)@([a-z]+)\.com', 'NEW_ADDRESS', s))
# NEW_ADDRESS [email protected] [email protected]
ちなみに、この例の正規表現パターンの[a-z]
はa
からz
までのいずれかの文字(=アルファベットの小文字)、+
は直前のパターン(ここでは[a-z]
)を1回以上繰り返す、という意味。[a-z]+
は小文字のアルファベットが1文字以上繰り返される文字列にマッチする。
.
はメタ文字(特別な意味を持つ文字)なので\
でエスケープする必要がある。
正規表現パターンの文字列はバックスラッシュ\
を多用する場合が多いので、例のようにraw文字列を使うと便利。
正規表現パターンオブジェクトのメソッドで実行
2つ目は正規表現パターンオブジェクトのメソッド。
re.compile()
を使うと、正規表現パターン文字列をコンパイルして正規表現パターンオブジェクトを作成できる。
p = re.compile(r'([a-z]+)@([a-z]+)\.com')
print(p)
# re.compile('([a-z]+)@([a-z]+)\\.com')
print(type(p))
# <class 're.Pattern'>
re.match()
, re.sub()
などの関数と同様の処理が、正規表現オブジェクトのメソッドmatch()
, sub()
として実行できる。
print(p.match(s))
# <re.Match object; span=(0, 11), match='[email protected]'>
print(p.sub('NEW_ADDRESS', s))
# NEW_ADDRESS [email protected] [email protected]
以降で説明するre.xxx()
の関数はすべて正規表現オブジェクトのメソッドとしても提供されている。
同じパターンを使う処理を繰り返し行う場合は、re.compile()
で正規表現オブジェクトを生成して使い回すほうが効率的。
以降のサンプルコードでは便宜上コンパイルせずに関数を使っているが、同じパターンを繰り返し使う場合は、前もってコンパイルして正規表現オブジェクトのメソッドとして実行することをおすすめする。
マッチオブジェクト
match()
やsearch()
などはマッチオブジェクトを返す。
s = '[email protected]'
m = re.match(r'[a-z]+@[a-z]+\.[a-z]+', s)
print(m)
# <re.Match object; span=(0, 11), match='[email protected]'>
print(type(m))
# <class 're.Match'>
マッチした文字列や位置をマッチオブジェクトの以下のメソッドを使って取得できる。
- マッチした位置を取得:
start()
,end()
,span()
- マッチした文字列を取得:
group()
- 各グループの文字列を取得:
groups()
print(m.start())
# 0
print(m.end())
# 11
print(m.span())
# (0, 11)
print(m.group())
# [email protected]
正規表現パターンの文字列中の部分を括弧()
で囲むと、その部分がグループとして処理される。このとき、groups()
で各グループにマッチした部分の文字列がタプルとして取得できる。
m = re.match(r'([a-z]+)@([a-z]+)\.([a-z]+)', s)
print(m)
# <re.Match object; span=(0, 11), match='[email protected]'>
print(m.groups())
# ('aaa', 'xxx', 'com')
グルーピングした場合、group()
の引数に数値を指定すると任意のグループの文字列を取得できる。省略または0
を指定するとマッチ全体、1
以降の数値を指定すると順番に各グループの文字列が返される。
print(m.group())
# [email protected]
print(m.group(0))
# [email protected]
print(m.group(1))
# aaa
print(m.group(2))
# xxx
print(m.group(3))
# com
グループに名前を設定した場合の振る舞いや、if文での使い方など、マッチオブジェクトの詳細は以下の記事を参照。
文字列の先頭がマッチするかチェック・抽出: match()
match()
は文字列の先頭がパターンにマッチするとマッチオブジェクトを返す。
上述のように、マッチオブジェクトを使ってマッチした部分文字列を抽出したり、単純にマッチしたかどうかをチェックしたりできる。
match()
が調べるのはあくまでも先頭のみ。先頭にマッチする文字列がない場合はNone
を返す。
s = '[email protected] [email protected] [email protected]'
print(re.match(r'[a-z]+@[a-z]+\.com', s))
# <re.Match object; span=(0, 11), match='[email protected]'>
print(re.match(r'[a-z]+@[a-z]+\.net', s))
# None
先頭に限らずマッチするかチェック・抽出: search()
search()
は文字列すべてが検索対象で、先頭にない文字列にもマッチする。match()
と同じく、マッチする場合はマッチオブジェクトを返す。
マッチする部分が複数ある場合は、最初のマッチ部分のみが返される。
s = '[email protected] [email protected] [email protected]'
print(re.search(r'[a-z]+@[a-z]+\.net', s))
# <re.Match object; span=(12, 23), match='[email protected]'>
print(re.search(r'[a-z]+@[a-z]+\.[a-z]+', s))
# <re.Match object; span=(0, 11), match='[email protected]'>
マッチする部分をすべて取得したい場合は後述のfindall()
またはfinditer()
を使う。
文字列全体がマッチするかチェック: fullmatch()
文字列全体が正規表現パターンにマッチしているかどうかの確認にはfullmatch()
を使う。
文字列全体がマッチしているとマッチオブジェクトが返され、マッチしていない部分がある(一部しかマッチしていない、または、全くマッチしていない)とNone
が返される。
s = '[email protected]'
print(re.fullmatch(r'[a-z]+@[a-z]+\.com', s))
# <re.Match object; span=(0, 11), match='[email protected]'>
s = '[email protected]!!!'
print(re.fullmatch(r'[a-z]+@[a-z]+\.com', s))
# None
マッチする部分すべてをリストで取得: findall()
findall()
はマッチするすべての部分文字列をリストにして返す。リストの要素はマッチオブジェクトではなく文字列なので注意。
s = '[email protected] [email protected] [email protected]'
result = re.findall(r'[a-z]+@[a-z]+\.[a-z]+', s)
print(result)
# ['[email protected]', '[email protected]', '[email protected]']
マッチした部分が何個あるかは、リストの要素数を返す組み込み関数len()
を使って確認できる。
print(len(result))
# 3
正規表現パターンで括弧()
を使ってグルーピングすると、各グループの文字列を要素とするタプル(マッチオブジェクトのgroups()
に相当)のリストが返される。
print(re.findall(r'([a-z]+)@([a-z]+)\.([a-z]+)', s))
# [('aaa', 'xxx', 'com'), ('bbb', 'yyy', 'net'), ('ccc', 'zzz', 'org')]
グループの括弧()
は入れ子状に設定できるので、マッチ全体も合わせて取得したい場合は全体を括弧()
で囲めばよい。
print(re.findall(r'(([a-z]+)@([a-z]+)\.([a-z]+))', s))
# [('[email protected]', 'aaa', 'xxx', 'com'), ('[email protected]', 'bbb', 'yyy', 'net'), ('[email protected]', 'ccc', 'zzz', 'org')]
マッチしない場合は空のタプルを返す。
print(re.findall('[0-9]+', s))
# []
マッチする部分すべてをイテレータで取得: finditer()
finditer()
はマッチするすべての部分をイテレータで返す。その要素はマッチオブジェクトなので、マッチした部分の位置なども取得できる。
イテレータはそれ自体をprint()
で出力しても中身は得られない。組み込み関数next()
やfor文を使うと中身が一つずつ取り出せる。
s = '[email protected] [email protected] [email protected]'
result = re.finditer(r'[a-z]+@[a-z]+\.[a-z]+', s)
print(result)
# <callable_iterator object at 0x107863070>
print(type(result))
# <class 'callable_iterator'>
for m in result:
print(m)
# <re.Match object; span=(0, 11), match='[email protected]'>
# <re.Match object; span=(12, 23), match='[email protected]'>
# <re.Match object; span=(24, 35), match='[email protected]'>
list()
でリストに変換することも可能。
l = list(re.finditer(r'[a-z]+@[a-z]+\.[a-z]+', s))
print(l)
# [<re.Match object; span=(0, 11), match='[email protected]'>, <re.Match object; span=(12, 23), match='[email protected]'>, <re.Match object; span=(24, 35), match='[email protected]'>]
print(l[0])
# <re.Match object; span=(0, 11), match='[email protected]'>
print(type(l[0]))
# <class 're.Match'>
print(l[0].span())
# (0, 11)
マッチするすべての部分の位置を取得したいといった場合は、list()
よりもリスト内包表記のほうが便利。
- 関連記事: Pythonリスト内包表記の使い方
print([m.span() for m in re.finditer(r'[a-z]+@[a-z]+\.[a-z]+', s)])
# [(0, 11), (12, 23), (24, 35)]
イテレータは順番に要素を取り出していく。最後まで到達した後でさらに要素を取り出そうとすると何も残っていない状態になるので注意。
for m in result:
print(m)
# <re.Match object; span=(0, 11), match='[email protected]'>
# <re.Match object; span=(12, 23), match='[email protected]'>
# <re.Match object; span=(24, 35), match='[email protected]'>
print(list(result))
# []
マッチする部分を置換: sub(), subn()
sub()
を使うと、マッチした部分を他の文字列に置換できる。第一引数に正規表現パターン、第二引数に置換後の文字列、第三引数に処理対象の文字列を指定する。
置換処理された文字列が返される。
s = '[email protected] [email protected] [email protected]'
print(re.sub('[a-z]+@', 'ABC@', s))
# [email protected] [email protected] [email protected]
第四引数count
で最大置換回数(個数)を指定できる。左側からcount
個のみ置換される。
print(re.sub('[a-z]+@', 'ABC@', s, 2))
# [email protected] [email protected] [email protected]
括弧()
でグルーピングした場合、置換後の文字列の中でマッチした文字列を使用できる。
デフォルトでは\1
, \2
, \3
...が、それぞれ1つ目の()
、2つ目の()
、3つ目の()
...にマッチした部分に対応している。raw文字列ではない通常の文字列だと'\\1'
のように\
をエスケープする必要があるので注意。
print(re.sub('([a-z]+)@([a-z]+)', '\\2@\\1', s))
# [email protected] [email protected] [email protected]
print(re.sub('([a-z]+)@([a-z]+)', r'\2@\1', s))
# [email protected] [email protected] [email protected]
正規表現パターンの()
の先頭に?P<xxx>
を記述してグループに名前をつけると、\1
のような番号ではなく\g<xxx>
のように名前を使って指定できる。
print(re.sub('(?P<local>[a-z]+)@(?P<SLD>[a-z]+)', r'\g<SLD>@\g<local>', s))
# [email protected] [email protected] [email protected]
第二引数にはマッチオブジェクトを引数とする関数も指定できる。より複雑な処理が可能になる。
def func(matchobj):
return matchobj.group(2).upper() + '@' + matchobj.group(1)
print(re.sub('([a-z]+)@([a-z]+)', func, s))
# [email protected] [email protected] [email protected]
ラムダ式を使ってもよい。
print(re.sub('([a-z]+)@([a-z]+)', lambda m: m.group(2).upper() + '@' + m.group(1), s))
# [email protected] [email protected] [email protected]
subn()
は置換処理された文字列(sub()
の返り値と同じ)と置換された部分の個数(パターンにマッチした個数)とのタプルを返す。
t = re.subn('[a-z]*@', 'ABC@', s)
print(t)
# ('[email protected] [email protected] [email protected]', 3)
print(type(t))
# <class 'tuple'>
print(t[0])
# [email protected] [email protected] [email protected]
print(t[1])
# 3
引数の指定方法などはsub()
と同じ。()
でグルーピングした部分を使ったり、引数count
を指定したりできる。
print(re.subn('([a-z]+)@([a-z]+)', r'\2@\1', s, 2))
# ('[email protected] [email protected] [email protected]', 2)
文字列の置換についての詳細は以下の記事を参照。
正規表現パターンで文字列を分割: split()
split()
はパターンにマッチした部分で文字列を分割し、リストにして返す。
先頭・末尾にマッチする場合、結果のリストの最初と最後に空文字列''
が含まれるので注意。
s = '111aaa222bbb333'
print(re.split('[a-z]+', s))
# ['111', '222', '333']
print(re.split('[0-9]+', s))
# ['', 'aaa', 'bbb', '']
第三引数maxsplit
で最大分割回数(個数)を指定できる。左側から、指定した個数のみ分割される。
print(re.split('[a-z]+', s, 1))
# ['111', '222bbb333']
文字列の分割についての詳細は以下の記事を参照。
Pythonでの正規表現のメタ文字・特殊シーケンスと注意点
Python3のreモジュールで使える正規表現のメタ文字(特殊文字)・特殊シーケンスの主なものは以下の通り。
メタ文字 | 内容 |
---|---|
. |
改行以外の任意の1文字(DOTALL フラグで改行も含む) |
^ |
文字列の先頭(MULTILINE フラグで各行の先頭にもマッチ) |
$ |
文字列の末尾(MULTILINE フラグで各行の末尾にもマッチ) |
* |
直前のパターンを0回以上繰り返し |
+ |
直前のパターンを1回以上繰り返し |
? |
直前のパターンを0回または1回繰り返し |
{m} |
直前のパターンをm 回繰り返し |
{m, n} |
直前のパターンをm 〜n 回繰り返し |
[] |
文字の集合 - [] 内のいずれか1文字にマッチ |
| |
OR(または) - A|B でA かB いずれかのパターンにマッチ |
特殊シーケンス | 内容 |
---|---|
\d |
Unicode10進数字(ASCII フラグでASCIIの数字に限定) |
\D |
\d の反対(\d 以外) |
\s |
Unicode空白文字(ASCII フラグでASCIIの空白文字に限定) |
\S |
\s の反対(\s 以外) |
\w |
Unicode単語文字と_ (ASCII フラグでASCIIの英字と_ に限定) |
\W |
\w の反対(\w 以外) |
この表に挙げたものが全てではない。完全なリストは公式ドキュメントを参照。
また、Python2では意味が異なるものもあるので注意。
基本的なものを使ったシンプルな活用例を以下の記事で紹介している。
フラグの設定
上の表でも示した通り、メタ文字・特殊シーケンスの中にはフラグによってモードが変わるものがある。
ここでは主なフラグのみを取り上げる。そのほかは公式ドキュメントを参照。
ASCII文字に限定: re.ASCII
Python3の文字列に対しては、\w
はデフォルトで全角の日本語や英数字などにもマッチする。標準的な正規表現とは異なり\w
と[a-zA-Z0-9_]
は等価ではない。
print(re.match(r'\w+', 'あいう漢字ABC123'))
# <re.Match object; span=(0, 11), match='あいう漢字ABC123'>
print(re.match('[a-zA-Z0-9_]+', 'あいう漢字ABC123'))
# None
各関数で引数flags
にre.ASCII
を指定するか、正規表現パターンの文字列の先頭にインラインフラグ(?a)
をつけると、ASCII文字にのみマッチするようになる(全角の日本語や英数字などにはマッチしない)。この場合は\w
は[a-zA-Z0-9_]
と等価。
print(re.match(r'\w+', 'あいう漢字ABC123', flags=re.ASCII))
# None
print(re.match(r'(?a)\w+', 'あいう漢字ABC123'))
# None
re.compile()
でコンパイルする場合も同様。引数flags
かインラインフラグ(?a)
を使う。
p = re.compile(r'\w+', flags=re.ASCII)
print(p)
# re.compile('\\w+', re.ASCII)
print(p.match('あいう漢字ABC123'))
# None
p = re.compile(r'(?a)\w+')
print(p)
# re.compile('(?a)\\w+', re.ASCII)
print(p.match('あいう漢字ABC123'))
# None
またre.ASCII
は短縮形re.A
としても提供されている。どちらを使ってもよい。
print(re.ASCII is re.A)
# True
\w
の反対を表す\W
もre.ASCII
や(?a)
の影響を受ける。
print(re.match(r'\W+', 'あいう漢字ABC123'))
# None
print(re.match(r'\W+', 'あいう漢字ABC123', flags=re.ASCII))
# <re.Match object; span=(0, 11), match='あいう漢字ABC123'>
\w
と同様に、数字にマッチする\d
、空白にマッチする\s
も、デフォルトでは半角にも全角にもマッチする。re.ASCII
や(?a)
を指定すると半角のみに限定される。
print(re.match(r'\d+', '123'))
# <re.Match object; span=(0, 3), match='123'>
print(re.match(r'\d+', '123'))
# <re.Match object; span=(0, 3), match='123'>
print(re.match(r'\d+', '123', flags=re.ASCII))
# <re.Match object; span=(0, 3), match='123'>
print(re.match(r'\d+', '123', flags=re.ASCII))
# None
print(re.match(r'\s+', ' ')) # 全角スペース
# <re.Match object; span=(0, 1), match='\u3000'>
print(re.match(r'\s+', ' ', flags=re.ASCII))
# None
それらの反対、\D
, \S
もre.ASCII
や(?a)
の影響を受ける。
大文字小文字を区別しない: re.IGNORECASE
デフォルトでは大文字小文字が区別される。両方にマッチさせるには大文字と小文字の両方をパターンに入れる必要がある。
re.IGNORECASE
を指定すると大文字小文字を区別せずにマッチする。標準的な正規表現のiフラグに相当。
print(re.match('[a-zA-Z]+', 'abcABC'))
# <re.Match object; span=(0, 6), match='abcABC'>
print(re.match('[a-z]+', 'abcABC', flags=re.IGNORECASE))
# <re.Match object; span=(0, 6), match='abcABC'>
print(re.match('[A-Z]+', 'abcABC', flags=re.IGNORECASE))
# <re.Match object; span=(0, 6), match='abcABC'>
インラインフラグ(?i)
、または、短縮形のre.I
でもOK。
各行の先頭・末尾にマッチ: re.MULTILINE
正規表現のメタ文字^
は文字列の先頭にマッチする。
デフォルトでは文字列全体の先頭のみにマッチするが、re.MULTILINE
を指定すると各行の先頭にもマッチするようになる。標準的な正規表現のmフラグに相当。
s = '''aaa-xxx
bbb-yyy
ccc-zzz'''
print(s)
# aaa-xxx
# bbb-yyy
# ccc-zzz
print(re.findall('^[a-z]+', s))
# ['aaa']
print(re.findall('^[a-z]+', s, flags=re.MULTILINE))
# ['aaa', 'bbb', 'ccc']
末尾にマッチする$
も同様。デフォルトでは文字列全体の末尾のみにマッチ、re.MULTILINE
を指定すると各行の末尾にもマッチするようになる。
print(re.findall('[a-z]+$', s))
# ['zzz']
print(re.findall('[a-z]+$', s, flags=re.MULTILINE))
# ['xxx', 'yyy', 'zzz']
インラインフラグ(?m)
、または、短縮形のre.M
でもOK。
複数のフラグを指定
複数のフラグを同時に有効にしたい場合は|
を使う。インラインフラグの場合は(?am)
のように各文字を続けて記述する。
s = '''aaa-xxx
あああ-んんん
bbb-zzz'''
print(s)
# aaa-xxx
# あああ-んんん
# bbb-zzz
print(re.findall(r'^\w+', s, flags=re.M))
# ['aaa', 'あああ', 'bbb']
print(re.findall(r'^\w+', s, flags=re.M | re.A))
# ['aaa', 'bbb']
print(re.findall(r'(?am)^\w+', s))
# ['aaa', 'bbb']
貪欲マッチと非貪欲マッチ
これは正規表現の一般的な問題でPythonだけの問題ではないが、ハマりがちなので書いておく。
デフォルトでは*
, +
, ?
は貪欲(greedy)マッチで、できる限り長い文字列にマッチする。
s = '[email protected] [email protected]'
m = re.match(r'.+com', s)
print(m)
# <re.Match object; span=(0, 23), match='[email protected] [email protected]'>
print(m.group())
# [email protected] [email protected]
?
を後ろにつける(*?
, +?
, ??
)と、非貪欲(non-greedy)、最小(minimal)のマッチとなり、できる限り短い文字列にマッチする。
m = re.match(r'.+?com', s)
print(m)
# <re.Match object; span=(0, 11), match='[email protected]'>
print(m.group())
# [email protected]
デフォルトの貪欲マッチだと思わぬ文字列にマッチする場合があるので要注意。