zbparse/flask_app/general/json_utils.py

305 lines
9.7 KiB
Python
Raw Permalink Normal View History

# -*- encoding:utf-8 -*-
2024-08-29 16:37:09 +08:00
import json
import re
2024-10-18 18:06:23 +08:00
def insert_missing_commas(json_str):
"""
使用正则表达式在缺失逗号的位置插入逗号
具体来说寻找一个值的结束引号后紧跟着下一个键的开始引号并在中间插入逗号
"""
# 这个正则匹配一个字符串结尾的引号,可能有空白字符,然后是另一个键的引号
pattern = r'(":\s*"[^"]*)"\s*(")'
replacement = r'\1", \2'
previous_str = None
while previous_str != json_str:
previous_str = json_str
json_str = re.sub(pattern, replacement, json_str)
return json_str
2024-11-26 15:06:57 +08:00
def fix_json_escape_sequences(json_str):
"""
修复 JSON 字符串中的非法转义序列
将所有不符合 JSON 规范的反斜杠进行转义
"""
# JSON 中合法的转义字符
valid_escapes = ['"', '\\', '/', 'b', 'f', 'n', 'r', 't', 'u']
# 使用正则表达式找到所有反斜杠
# 如果反斜杠后面不是合法的转义字符,则进行转义
pattern = re.compile(r'\\(?!["\\/bfnrtu])')
fixed_str = pattern.sub(r'\\\\', json_str)
return fixed_str
2024-12-19 12:18:50 +08:00
def replace_latex_expressions_in_dict(obj):
"""
递归遍历字典或列表替换其中的 LaTeX 表达式
"""
if isinstance(obj, dict):
return {k: replace_latex_expressions_in_dict(v) for k, v in obj.items()}
elif isinstance(obj, list):
return [replace_latex_expressions_in_dict(item) for item in obj]
elif isinstance(obj, str):
# 仅处理被 $...$ 包围的内容
def replace_match(match):
expr = match.group(1)
return replace_latex_expressions(expr)
2024-11-26 15:06:57 +08:00
2024-12-19 12:18:50 +08:00
# 替换所有 $...$ 包围的内容
return re.sub(r'\$(.*?)\$', replace_match, obj)
else:
return obj
2024-11-26 15:06:57 +08:00
def replace_latex_expressions(json_str):
"""
替换 JSON 字符串中的 LaTeX 风格表达式
例如 $ \geq 2 m$ 替换为 2
"""
# 定义 LaTeX 符号到 Unicode 字符的映射
latex_mapping = {
r'\geq': '',
r'\leq': '',
r'\times': '×',
r'\frac': '/', # 简单处理分数
r'\neq': '',
r'\approx': '',
r'\pm': '±',
r'\alpha': 'α',
r'\beta': 'β',
r'\gamma': 'γ',
r'\delta': 'δ',
r'\pi': 'π',
r'\sqrt': '',
r'\infty': '',
r'\cup': '',
r'\cap': '',
r'\subseteq': '',
r'\supseteq': '',
r'\forall': '',
r'\exists': '',
r'\rightarrow': '',
r'\leftarrow': '',
# 添加更多需要的映射
}
# 处理每一个 LaTeX 表达式
def replace_match(match):
expr = match.group(1)
for latex, char in latex_mapping.items():
expr = expr.replace(latex, char)
# 替换单位符号,例如 ' m' 到 '米', ' s' 到 '秒', 等等
expr = re.sub(r'(\d+)\s*m', r'\1米', expr)
expr = re.sub(r'(\d+)\s*s', r'\1秒', expr)
expr = re.sub(r'(\d+)\s*kg', r'\1公斤', expr)
expr = re.sub(r'(\d+)\s*A', r'\1安', expr) # 例如电流单位安培
# 继续添加更多单位
return expr
# 替换所有 $...$ 包围的内容
fixed_str = re.sub(r'\$(.*?)\$', replace_match, json_str)
return fixed_str
2024-12-20 17:24:49 +08:00
def extract_content_from_json(string):
2024-11-26 15:06:57 +08:00
"""
输入字符串尝试解析 JSON 数据
2024-12-19 12:18:50 +08:00
1. 如果成功解析返回字典
2. 如果失败并且字符串长度超过阈值返回原始字符串
3. 如果失败且字符串长度不超过阈值返回空字典
2024-11-26 15:06:57 +08:00
"""
2024-12-20 12:32:06 +08:00
if not string or not string.strip():
2024-11-26 15:06:57 +08:00
return {}
# 提取第一个匹配的 JSON 对象
match = re.search(r'\{[\s\S]*\}', string)
if not match:
print("未找到有效的 JSON 内容。")
2024-12-19 12:18:50 +08:00
return {} # 返回空字典
2024-11-26 15:06:57 +08:00
original_json = match.group(0)
# 尝试直接解析原始 JSON 数据
try:
parsed = json.loads(original_json)
2024-12-19 12:18:50 +08:00
return parsed # 返回解析后的字典
except json.JSONDecodeError:
print("直接解析原始 JSON 失败。")
2024-11-26 15:06:57 +08:00
# 方法1逗号修复
try:
fixed_json1 = insert_missing_commas(original_json)
parsed = json.loads(fixed_json1)
print("使用方法1逗号修复成功。")
2024-12-19 12:18:50 +08:00
return parsed # 返回解析后的字典
except json.JSONDecodeError:
print("方法1逗号修复解析失败。")
2024-11-26 15:06:57 +08:00
# 方法2LaTeX 表达式替换
try:
fixed_json2 = replace_latex_expressions(original_json)
parsed = json.loads(fixed_json2)
print("使用方法2LaTeX 表达式替换成功。")
2024-12-19 12:18:50 +08:00
return parsed # 返回解析后的字典
except json.JSONDecodeError:
print("方法2LaTeX 替换)解析失败。")
2024-11-26 15:06:57 +08:00
# 方法3非法转义序列修复
try:
fixed_json3 = fix_json_escape_sequences(original_json)
parsed = json.loads(fixed_json3)
print("使用方法3非法转义序列修复成功。")
2024-12-19 12:18:50 +08:00
return parsed # 返回解析后的字典
except json.JSONDecodeError:
print("方法3非法转义修复解析失败。")
# 如果所有方法都失败,检查字符串长度
print("所有修复方法均失败。")
2024-12-20 17:24:49 +08:00
return {} # 返回空字典
2024-12-19 12:18:50 +08:00
2024-08-29 16:37:09 +08:00
def clean_json_string(json_string):
"""清理JSON字符串移除多余的反引号并解析为字典"""
return extract_content_from_json(json_string)
2024-10-19 17:25:56 +08:00
2024-08-29 16:37:09 +08:00
def combine_json_results(json_lists):
"""
2024-10-19 17:25:56 +08:00
将类json格式的列表整合成json数据即大括号{}包裹
支持列表中的元素既是字符串又是字典
2024-08-29 16:37:09 +08:00
"""
combined_result = {}
2024-10-19 17:25:56 +08:00
for item in json_lists:
if isinstance(item, str):
if item.strip():
json_data = clean_json_string(item)
if isinstance(json_data, dict):
combined_result.update(json_data)
else:
print(f"警告: 解析后的数据不是字典类型,跳过。内容: {item}")
elif isinstance(item, dict):
combined_result.update(item)
else:
print(f"警告: 不支持的类型 {type(item)},跳过。内容: {item}")
2024-08-29 16:37:09 +08:00
return combined_result
def nest_json_under_key(data, key):
"""
将给定的字典 data 嵌套在一个新的字典层级下该层级由 key 指定并返回 JSON 格式的字符串
参数:
- data: dict, 要嵌套的原始字典
- key: str, 新层级的键名
返回:
- 嵌套后的 JSON 字符串
"""
# 创建一个新字典,其中包含一个键,该键的值是原始字典
nested_dict = {key: data}
# 将字典转换成 JSON 字符串
nested_json = json.dumps(nested_dict, ensure_ascii=False, indent=4)
return nested_json
def add_keys_to_json(target_dict, source_dict):
"""
source_dict 的内容添加到 target_dict 中的唯一外层键下的字典中
参数:
target_dict (dict): 要更新的目标字典假定只有一个外层键
source_dict (dict): 源字典其内容将被添加到目标字典
返回:
dict: 更新后的字典
"""
if not target_dict:
2024-09-13 15:03:55 +08:00
print("json_utils: Error: Target dictionary is empty.")
2024-08-29 16:37:09 +08:00
return {}
if len(target_dict) != 1:
2024-09-13 15:03:55 +08:00
print("json_utils: Error: Target dictionary must contain exactly one top-level key.")
2024-08-29 16:37:09 +08:00
return target_dict
# 获取唯一的外层键
target_key, existing_dict = next(iter(target_dict.items()))
if not isinstance(existing_dict, dict):
2024-09-13 15:03:55 +08:00
print(f"json_utils: Error: The value under the key '{target_key}' is not a dictionary.")
2024-08-29 16:37:09 +08:00
return target_dict
# 合并字典
existing_dict.update(source_dict)
# 更新原字典
target_dict[target_key] = existing_dict
return target_dict
2024-12-12 16:06:20 +08:00
def add_outer_key(original_data, new_key):
"""
在传入的字典外部增加一个新的外键原始数据保持不变
"""
# 检查输入是否为有效的字典
2024-08-29 16:37:09 +08:00
if not original_data or not isinstance(original_data, dict):
2024-12-12 16:06:20 +08:00
print("json_utils: Error: Invalid input or input is not a dictionary.") # 输入无效或不是字典
return {}
2024-08-29 16:37:09 +08:00
2024-12-12 16:06:20 +08:00
# 在原始数据外层增加一个新键
new_data = {new_key: original_data}
2024-08-29 16:37:09 +08:00
2024-10-15 20:57:58 +08:00
return new_data
2024-08-29 16:37:09 +08:00
def transform_json_values(data):
if isinstance(data, dict):
2024-10-16 20:18:55 +08:00
return {key.replace(' ', ''): transform_json_values(value) for key, value in data.items()}
2024-08-29 16:37:09 +08:00
elif isinstance(data, list):
return [transform_json_values(item) for item in data]
elif isinstance(data, bool):
return '' if data else ''
elif isinstance(data, (int, float)):
return str(data)
elif isinstance(data, str):
return data.replace('\n', '<br>')
else:
return data
if __name__ == "__main__":
2024-12-19 12:18:50 +08:00
data="""{
"表头": {
"内容": "技术部分",
"范围": [(0, 0), (0, 4)]
},
"序号": {
"内容": "序号",
"位置": (1, 0),
"方向": "水平"
},
"产品": {
"内容": "",
"方向": ""
},
"重要参数要求": {
"内容": "采购文件要求 部分",
"位置": (1, 1),
"方向": "水平"
},
"对标": {
"内容": "响应文件响应 部分",
"位置": (1, 2),
"方向": "水平"
},
"偏离": {
"内容": "偏离说明",
"位置": (1, 3),
"方向": "水平"
},
"备注": {
"内容": "填写相应技术文 件/说明所在页码",
"位置": (1, 4),
"方向": "水平"
}
2024-12-19 12:18:50 +08:00
}
"""
res=clean_json_string(data)
print(json.dumps(res,ensure_ascii=False,indent=4))