zbparse/flask_app/main/截取pdf.py

from PyPDF2 import PdfReader, PdfWriter
import re  # 导入正则表达式库
import os  # 用于文件和文件夹操作
from flask_app.main.merge_pdfs import merge_pdfs
def clean_page_content(text, common_header):
    # 首先删除抬头公共部分
    if common_header:  # 确保有公共抬头才进行替换
        for header_line in common_header.split('\n'):
            if header_line.strip():  # 只处理非空行
                # 替换首次出现的完整行
                text = re.sub(r'^' + re.escape(header_line.strip()) + r'\n?', '', text, count=1)

    # 删除页码 eg:89/129   这个代码分三步走可以把89/129完全删除
    text = re.sub(r'^\s*\d+\s*(?=\D)', '', text)  # 删除开头的页码，仅当紧跟非数字字符时
    text = re.sub(r'\s+\d+\s*$', '', text)  # 删除结尾的页码
    text = re.sub(r'\s*\/\s*\d+\s*', '', text)  # 删除形如 /129 的页码

    return text

#PYPDF2库
def extract_common_header(pdf_path):
    from PyPDF2 import PdfReader

    pdf_document = PdfReader(pdf_path)
    headers = []
    total_pages = len(pdf_document.pages)

    # 确定要读取的页数和起始页
    if total_pages == 2:
        pages_to_read = 2
        start_page = 0
    else:
        pages_to_read = 3
        middle_page = total_pages // 2
        start_page = max(0, middle_page - 1)

    for i in range(start_page, min(start_page + pages_to_read, total_pages)):
        page = pdf_document.pages[i]
        text = page.extract_text() or ""
        if text:
            # 只取每页的前三行
            first_lines = text.strip().split('\n')[:3]
            headers.append(first_lines)

    if len(headers) < 2:
        return ""  # 如果没有足够的页来比较，返回空字符串

    # 寻找每一行中的公共部分，按顺序保留
    common_headers = []
    for lines in zip(*headers):
        # 提取第一行的词汇顺序
        first_words = lines[0].split()
        # 筛选所有页面都包含的词汇，保持顺序
        common_line = [word for word in first_words if all(word in line.split() for line in lines[1:])]
        if common_line:
            common_headers.append(' '.join(common_line))

    return '\n'.join(common_headers)


def save_pages_to_new_pdf(pdf_path, output_folder, output_suffix, start_page, end_page):
    """
    从原始PDF截取指定范围的页面并保存到新的PDF文件中。
    如果 output_suffix 是 'notice'，则额外保存 start_page 之前的页面。

    参数:
        pdf_path (str): 原始PDF文件路径。
        output_folder (str): 输出文件夹路径。
        output_suffix (str): 输出文件的后缀，用于区分不同的提取。
        start_page (int): 起始页码（0基）。
        end_page (int): 结束页码（0基）。

    返回:
        str: 保存的PDF文件路径。如果提取失败，返回空字符串。
    """
    try:
        # 获取文件基本名称
        base_file_name = os.path.splitext(os.path.basename(pdf_path))[0]

        # 构建主要输出文件路径
        output_pdf_path = os.path.join(output_folder, f"{base_file_name}_{output_suffix}.pdf")

        # 读取PDF文件
        pdf_document = PdfReader(pdf_path)
        total_pages = len(pdf_document.pages)

        # 检查起始和结束页码是否有效
        if start_page < 0 or end_page >= total_pages or start_page > end_page:
            print(f"无效的页面范围: {start_page} 到 {end_page}")
            return ""

        # 如果 output_suffix 是 'notice'，保存 start_page 之前的页面
        if output_suffix == 'notice' and start_page > 0:
            before_pdf_path = os.path.join(output_folder, f"{base_file_name}_before.pdf")
            before_doc = PdfWriter()
            for page_num in range(0, start_page):
                before_doc.add_page(pdf_document.pages[page_num])
            with open(before_pdf_path, 'wb') as f_before:
                before_doc.write(f_before)
            print(f"已保存页面从 0 到 {start_page - 1} 为 {before_pdf_path}")

        # 提取指定范围的页面
        output_doc = PdfWriter()
        for page_num in range(start_page, end_page + 1):
            output_doc.add_page(pdf_document.pages[page_num])

        # 保存新的PDF文件
        with open(output_pdf_path, 'wb') as f_output:
            output_doc.write(f_output)

        print(f"{output_suffix} 已截取并保存页面从 {start_page + 1} 到 {end_page + 1} 为 {output_pdf_path}")
        return output_pdf_path

    except Exception as e:
        print(f"Error in save_pages_to_new_pdf: {e}")
        return ""  # 返回空字符串


def extract_pages_twice(pdf_path, output_folder, output_suffix):
    common_header = extract_common_header(pdf_path)
    last_begin_index = 0
    begin_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*招标公告|第一卷|投标邀请书')
    pdf_document = PdfReader(pdf_path)
    for i, page in enumerate(pdf_document.pages):
        text = page.extract_text()
        if text:
            cleaned_text = clean_page_content(text,common_header)
            # 检查“第一章”开始的位置
            if begin_pattern.search(cleaned_text):
                last_begin_index = i  # 更新最后匹配的索引，页码从0开始
    if output_suffix == "qualification":
        common_pattern = r'^(?:附录(?:一)?[：:]|附件(?:一)?[：:]|附表(?:一)?[：:])'
        # end_pattern = r'^(第[一二三四五六七八九十]+章\s*投标人须知|评标办法|评标办法前附表)'
        end_pattern = re.compile(
            common_pattern + r'(?!.*(?:资质|能力|信誉)).*$|'  # 排除资质、能力、信誉的描述
                             r'^(第[一二三四五六七八九十]+章\s*评标办法|评标办法前附表|投标人须知)',  # 新增的匹配项
            re.MULTILINE
        )
        start_page = None
        end_page = None

        # 从章节开始后的位置进行检查
        for i, page in enumerate(pdf_document.pages[last_begin_index:], start=last_begin_index):
            text = page.extract_text()
            if text:
                cleaned_text = clean_page_content(text,common_header)
                # 确定起始页，需在last_begin_index之后
                if ("资格审查" in cleaned_text or "资质条件" in cleaned_text):
                    if re.search(common_pattern, cleaned_text, re.MULTILINE):
                        if start_page is None:
                            start_page = i  # 确保起始页不小于章节的开始页码
                # 确定结束页
                if start_page is not None and re.search(end_pattern, cleaned_text):
                    if i > start_page:
                        end_page = i
                        break  # 找到结束页后退出循环

        if start_page is None or end_page is None:
            print(f"twice: 未找到起始或结束页在文件 {pdf_path} 中！")
            return ""
        else:
            return save_pages_to_new_pdf(pdf_path, output_folder, output_suffix, start_page, end_page)
    elif output_suffix == "invalid":
        pdf_document = PdfReader(pdf_path)
        total_pages = len(pdf_document.pages)
        # 计算总页数的三分之二
        total = int(total_pages * 2 / 3)
        start_page = last_begin_index
        end_page = min(90, total)
        return save_pages_to_new_pdf(pdf_path, output_folder, output_suffix, start_page, end_page)


def extract_pages(pdf_path, output_folder, begin_pattern, begin_page, end_pattern, output_suffix):
    common_header=extract_common_header(pdf_path)
    # 打开PDF文件
    pdf_document = PdfReader(pdf_path)
    start_page = None
    end_page = None
    # 遍历文档的每一页，查找开始和结束短语的位置
    for i in range(len(pdf_document.pages)):
        page = pdf_document.pages[i]
        text = page.extract_text()
        if text:
            cleaned_text = clean_page_content(text,common_header)
            # print(cleaned_text)
            if re.search(begin_pattern, cleaned_text) and i > begin_page:
                if output_suffix == "invalid" and start_page:  # 仅当提取Invalid的时候，判断初始页码是第一个匹配到的页码，因为招标编号可能存在多个，后面的覆盖前面
                    continue
                else:
                    start_page = i
            if start_page is not None and re.search(end_pattern, cleaned_text):
                # 如果output_suffix是"qualification"，调整条件检查
                if output_suffix == "qualification":
                    condition = i > start_page
                else:
                    condition = i > (start_page + 1)
                if condition:
                    is_invalid_condition = output_suffix == "invalid" and i > 30  # 这边默认无效投标至少有30页
                    if is_invalid_condition or output_suffix != "invalid":
                        end_page = i
                        break

    # 确保找到了起始和结束页面
    if start_page is None or end_page is None:
        if output_suffix == "qualification" or output_suffix =="invalid":
            return extract_pages_twice(pdf_path, output_folder, output_suffix)
        else:
            print(f"first: 未找到起始或结束页在文件 {pdf_path} 中！")
            return ""
    else:
        return save_pages_to_new_pdf(pdf_path, output_folder, output_suffix, start_page, end_page)


def process_input(input_path, output_folder, begin_pattern, begin_page, end_pattern, output_suffix):
    # 确保输出文件夹存在
    if not os.path.exists(output_folder):
        os.makedirs(output_folder)
    if os.path.isdir(input_path):
        generated_files = []
        # 遍历文件夹内的所有PDF文件
        for file in os.listdir(input_path):
            if file.endswith(".pdf"):
                pdf_path = os.path.join(input_path, file)
                output_pdf_path = extract_pages(pdf_path, output_folder, begin_pattern, begin_page, end_pattern,
                                                output_suffix)
                if output_pdf_path and os.path.isfile(output_pdf_path):
                    generated_files.append(output_pdf_path)
        return generated_files
    elif os.path.isfile(input_path) and input_path.endswith(".pdf"):
        # 处理单个PDF文件
        output_pdf_path = extract_pages(input_path, output_folder, begin_pattern, begin_page, end_pattern,
                                        output_suffix)
        if output_pdf_path and os.path.isfile(output_pdf_path):
            return [output_pdf_path]  # 以列表形式返回，以保持一致性
    else:
        print("提供的路径既不是文件夹也不是PDF文件。")
    return []


def truncate_pdf_main(input_path, output_folder, selection):
    if selection == 1:
        # Configure patterns and phrases for "投标人须知前附表"
        begin_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*投标人须知')
        begin_page = 3
        end_pattern = re.compile(r'投标人须知正文')
        output_suffix = "tobidders_notice_table"
    elif selection == 2:
        # Configure patterns and phrases for "评标办法"
        begin_pattern = re.compile(
            r'第[一二三四五六七八九十]+章\s*评标办法')  # 考虑到这种情况 '第三章 第三章 第三章 第三章     评标办法 评标办法 评标办法 评标办法'
        begin_page = 10
        end_pattern = re.compile(r'评标办法正文|评标办法')
        output_suffix = "evaluation_method"
    elif selection == 3:
        # Configure patterns and phrases for "投标人须知正文"
        begin_pattern = re.compile(r'投标人须知正文')
        begin_page = 5
        end_pattern = re.compile(
            r'^第[一二三四五六七八九十]+章\s*评标办法|^评标办法前附表|^附录(?:一)?[：:]|^附件(?:一)?[：:]|^附表(?:一)?[：:]',
            re.MULTILINE)
        output_suffix = "tobidders_notice"
    elif selection == 4:
        # 配置用于 "资格审查条件" 的正则表达式模式和短语
        common_pattern = r'^(?:附录(?:一)?[：:]|附件(?:一)?[：:]|附表(?:一)?[：:])'
        begin_pattern = re.compile(common_pattern + r'.*(?:资质|能力|信誉).*$', re.MULTILINE)
        begin_page = 5
        end_pattern = re.compile(
            common_pattern + r'(?!.*(?:资质|能力|信誉)).*$|'  # 原有的模式
                             r'^(第[一二三四五六七八九十]+章\s*评标办法|评标办法前附表)',  # 新增的匹配项
            re.MULTILINE
        )
        output_suffix = "qualification"
    elif selection == 5:
        # 配置用于 "招标公告" 的正则表达式模式和短语
        begin_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*招标公告|第一卷|投标邀请书')
        begin_page = 0
        end_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*投标人须知', re.MULTILINE)
        output_suffix = "notice"
    elif selection == 6:
        # 配置用于 "无效标" 的正则表达式模式和短语
        begin_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*招标公告|第一卷|招标编号:|招标编号：')
        begin_page = 0
        end_pattern = re.compile(r'第[一二三四五六七八九十]+章\s*合同|[：:]清标报告|第二卷', re.MULTILINE)
        output_suffix = "invalid"
    else:
        print("无效的选择:请选择1-6")
        return None

    # Process the selected input
    return process_input(input_path, output_folder, begin_pattern, begin_page, end_pattern, output_suffix)


def truncate_pdf_multiple(input_path, output_folder):
    truncate_files = []
    for selection in range(1, 5):
        files = truncate_pdf_main(input_path, output_folder, selection)
        truncate_files.extend(files)
    return truncate_files

def merge_selected_pdfs(output_folder, truncate_files, output_path, base_file_name):
    """
    合并 output_folder 中以 {base_file_name}_before.pdf 结尾的 PDF 文件，
    以及 truncate_files 中以指定后缀结尾的文件，按照指定顺序合并。

    参数：
    - output_folder (str): 包含以 {base_file_name}_before.pdf 结尾的 PDF 文件的文件夹路径。
    - truncate_files (list): 包含 PDF 文件路径的列表。
    - output_path (str): 合并后的 PDF 文件保存路径。
    - base_file_name (str): 用于匹配文件名的基础名称。
    """
    # 1. 获取 output_folder 中所有文件
    try:
        all_output_files = os.listdir(output_folder)
    except FileNotFoundError:
        print(f"输出文件夹 '{output_folder}' 未找到。")
        return
    except PermissionError:
        print(f"没有权限访问输出文件夹 '{output_folder}'。")
        return

    # 2. 定义要选择的文件后缀及合并顺序，包括 before 文件
    desired_suffixes = [
        f'{base_file_name}_before.pdf',
        f'{base_file_name}_notice.pdf',
        f'{base_file_name}_tobidders_notice_table.pdf',
        f'{base_file_name}_tobidders_notice.pdf'
    ]

    all_pdfs_to_merge = []

    for suffix in desired_suffixes:
        if suffix == f'{base_file_name}_before.pdf':
            # 从 output_folder 中选择以 {base_file_name}_before.pdf 结尾的文件
            matching_files = [
                os.path.join(output_folder, f)
                for f in all_output_files
                if f.endswith(suffix)
            ]
        else:
            # 从 truncate_files 中选择以指定后缀结尾的文件
            matching_files = [f for f in truncate_files if f.endswith(suffix)]

        if matching_files:
            # 如果找到多个匹配的文件，按名称排序并添加
            matching_files_sorted = sorted(matching_files)
            all_pdfs_to_merge.extend(matching_files_sorted)
            for f in matching_files_sorted:
                print(f"选中文件: {f}")
        else:
            print(f"没有找到以 '{suffix}' 结尾的文件。")

    print(f"总共将要合并的 PDF 文件数量: {len(all_pdfs_to_merge)}")

    if not all_pdfs_to_merge:
        print("没有找到要合并的 PDF 文件。")
        return

    # 调用 merge_pdfs 函数进行合并
    merge_pdfs(all_pdfs_to_merge, output_path)
    print(f"已成功合并 PDF 文件到 '{output_path}'。")

def truncate_pdf_specific_engineering(pdf_path, output_folder):
    """
    处理 PDF 文件，选择 selection 为 5、1 和 3 的部分，并合并结果。

    Args:
        pdf_path (str): 要处理的 PDF 文件路径。
        output_folder (str): 截取后的文件保存文件夹路径。

    Returns:
        list: 截取的文件路径列表，包括合并后的文件路径（如果有）。
    """
    try:
        base_file_name = os.path.splitext(os.path.basename(pdf_path))[0]
        truncate_files = []
        selections = [5, 1, 3]  # 仅处理 selection 5、1 和 3

        for selection in selections:
            files = truncate_pdf_main(pdf_path, output_folder, selection)
            if files:
                if isinstance(files, list):
                    truncate_files.extend(files)
                elif isinstance(files, str):
                    truncate_files.append(files)

        if truncate_files:
            merged_output_path = os.path.join(output_folder, f"{base_file_name}_merged_specific.pdf")
            merge_selected_pdfs(output_folder, truncate_files, merged_output_path, base_file_name)
            truncate_files.append(merged_output_path)
            print(f"已生成合并文件: {merged_output_path}")
        else:
            print(f"没有文件需要合并 for {pdf_path}")

        return truncate_files

    except Exception as e:
        print(f"Error in truncate_pdf_specific_two: {e}")
        return []  # 返回空列表表示失败


# TODO:需要完善二次请求。目前invalid一定能返回 前附表  须知正文如果为空的话要额外处理一下，比如说就不进行跳转（见xx表） 开评定标这里也要考虑  如果评分表为空，也要处理。
if __name__ == "__main__":
    # input_path = "C:\\Users\\Administrator\\Desktop\\fsdownload\\4bda9fde-89fc-4e5e-94a4-ce6c43010f74\\ztbfile.pdf"
    # output_folder = "C:\\Users\\Administrator\\Desktop\\fsdownload\\4bda9fde-89fc-4e5e-94a4-ce6c43010f74"
    input_path="C:\\Users\\Administrator\\Desktop\\招标文件\\招标test文件夹\\zbtest16.pdf"
    output_folder="C:\\Users\\Administrator\\Desktop\\招标文件\\special_output"
    # files=truncate_pdf_multiple(input_path,output_folder)
    files=truncate_pdf_specific_engineering(input_path,output_folder)
    print(files)
    # selection = 3 # 例如：1 - 投标人须知前附表, 2 - 评标办法, 3 - 投标人须知正文 4-资格审查条件 5-招标公告 6-无效标
    # generated_files = truncate_pdf_main(input_path, output_folder, selection)
    # # print("生成的文件:", generated_files)