Декоратор Python с необязательным аргументом (который является функцией)

Так как трудно отличить decorator(func) от decorator(callback), создайте два декоратора:

from functools import wraps

class MyCustomError(Exception):
    def __init__(self):
        print('in MyCustomError')

# Common implementation
def wrap(func,cb=None):
    @wraps(func)
    def wrapper(*args, **kwargs):
        try:
            return func(*args, **kwargs)
        except:
            if cb is not None:
                cb()
            raise MyCustomError()
    return wrapper

# No parameters version
def wrap_error(func):
    return wrap(func)

# callback parameter version
def wrap_error_cb(cb):
    def deco(func):
        return wrap(func,cb)
    return deco

@wrap_error
def foo(a,b):
    print('in foo',a,b)
    raise Exception('foo exception')

def callback():
    print('in callback')

@wrap_error_cb(callback)
def bar(a):
    print('in bar',a)
    raise Exception('bar exception')

Убедитесь, что foo и bar правильно используют functools.wraps:

>>> foo
<function foo at 0x0000000003F00400>
>>> bar
<function bar at 0x0000000003F00598>

Убедитесь, что завернутые функции работают:

>>> foo(1,2)
in foo 1 2
in MyCustomError
Traceback (most recent call last):
  File "<interactive input>", line 1, in <module>
  File "C:\test.py", line 16, in wrapper
    raise MyCustomError()
MyCustomError
>>> bar(3)
in bar 3
in callback
in MyCustomError
Traceback (most recent call last):
  File "<interactive input>", line 1, in <module>
  File "C:\test.py", line 16, in wrapper
    raise MyCustomError()
MyCustomError

Обновлено

Вот способ сделать это с запрошенным вами синтаксисом, но я думаю, что приведенный выше ответ более понятен.

from functools import wraps

class MyCustomError(Exception):
    def __init__(self):
        print('in MyCustomError')

# Common implementation
def wrap(func,cb=None):
    @wraps(func)
    def wrapper(*args, **kwargs):
        try:
            return func(*args, **kwargs)
        except:
            if cb is not None:
                cb()
            raise MyCustomError()
    return wrapper

def wrap_error(func_or_cb):
    # If the function is tagged as a wrap_error_callback
    # return a decorator that returns the wrapped function
    # with a callback.
    if hasattr(func_or_cb,'cb'):
        def deco(func):
            return wrap(func,func_or_cb)
        return deco
    # Otherwise, return a wrapped function without a callback.
    return wrap(func_or_cb)

# decorator to tag callbacks so wrap_error can distinguish them
# from *regular* functions.
def wrap_error_callback(func):
    func.cb = True
    return func

### Examples of use

@wrap_error
def foo(a,b):
    print('in foo',a,b)
    raise Exception('foo exception')

@wrap_error_callback
def callback():
    print('in callback')

@wrap_error(callback)
def bar(a):
    print('in bar',a)
    raise Exception('bar exception')

Подводя итог проблеме, прежде чем пытаться ответить на нее, вам нужен декоратор, который правильно работает в обоих следующих контекстах:

@decorator  # case 1
def some_func(...):
    ...

@decorator(some_callback)  # case 2
def some_func(...):
    ...

или, чтобы развернуть синтаксис @, чтобы прояснить ситуацию:

some_func = decorator(some_func)  # case 1

some_func = decorator(some_callback)(some_func)  # case 2

Сложная проблема здесь, как мне кажется, заключается в том, что decorator очень сложно определить разницу между some_func и some_callback (и, следовательно, между случаями 1 и 2); оба являются (предположительно) просто вызываемыми объектами.

Одним из возможных решений является предоставление именованных аргументов:

# imports at top of file, not in function definitions
from functools import wraps
import sys

def decorator(func=None, callback=None):
    # Case 1
    if func is not None:
        @wraps(func)
        def wrapper(*args, **kwargs):
            return func(*args, **kwargs)  # or whatever
        return wrapper
    # Case 2
    elif callback is not None: 
        def deco(f):
            @wraps(f)
            def wrapper(*args, **kwargs):
                return callback(f(*args, **kwargs))  # or whatever
            return wrapper
        return deco

Это делает случай 2 немного другим:

@decorator(callback=some_callback)
def some_func(...):
    ...

Но в остальном делает то, что вы хотите. Обратите внимание, что опция, которую вы говорите, вы не можете использовать

@decorator()
def some_func(...):
    ...

не будет работать с этим, так как декоратор ожидает, что будет предоставлено либо func, либо callback (в противном случае он вернет None, что не может быть вызвано, поэтому вы получите TypeError).