[自行打包] 个人收集精品杂图3 [2500p+9.1g][百度盘]

西域烤鱼干

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

抖音上有很多

uuuuyyyyy

为啥我一直密码错误ヽ(`Д´)ﾉ

不如离弃

好看

cndeng

感谢分享，大佬辛苦了。

lattess

有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈希值函数加个异常解决了，大家可以留着以后备用lol
: e- i: X; E7 [( E0 {2 n4 @import os
, o! |( p) S8 X6 _1 C+ l9 pimport imagehash
from PIL import Image

def compute_image_hash(image_path):
    # image = Image.open(image_path)
    # return imagehash.average_hash(image)
    try:
7 Q4 \- E1 J& \! j6 g3 S        with Image.open(image_path) as image:
. \- W, r% M' k) y! G            return imagehash.average_hash(image)
    except (OSError, IOError) as e:
& F% k& B7 N: ?5 z4 V        print(f"处理图像 {image_path} 时出错: {e}")
        return None
! q" K( G4 `4 q' Z+ R" g  j/ W
def remove_duplicates(image_folder):
& Q8 E6 q6 |' {" O9 E4 q/ y/ D    hash_dict = {}
/ {4 O$ a8 o2 A( G    duplicates = []

    for filename in os.listdir(image_folder):
        if filename.endswith(('.png', '.jpg', '.jpeg', '.bmp', '.gif')):
# h! ^" x0 M0 B& H5 B            image_path = image_folder + "\\" + filename
5 @4 D* {; I. w# X# e0 p            image_hash = compute_image_hash(image_path)
6 m0 K, X% ]% A. R! S! J% c
            if image_hash in hash_dict:
8 b$ I$ {2 Z7 @  |+ V0 E- I                duplicates.append(image_path)
8 Q% a* b# _& Q$ @3 K4 S8 I            else:
$ i/ n0 u) p# y# z                hash_dict[image_hash] = image_path
% W* E3 |& [% b  h( s        else:
            pass

    for duplicate in duplicates:
        os.remove(duplicate)
/ C5 r& @& R: f% I        print(f"Removed duplicate image: {duplicate}")

4 P0 V4 Z' O3 i3 u5 k. n3 }- v    print("Duplicate removal complete.")

image_folder = 'D:/data/baidu/去重训练文件夹' #换成自己的文件夹
0 [6 o! e) `# m! \/ Zremove_duplicates(image_folder)

lattess

lattess 发表于 2024-7-23 16:25
有一部分图重复了，写了一段代码来解决这个问题，有一张图片似乎有问题，困扰了我好久为什么一直报错，求哈 ...

有问题的图片名为1558571_114.png

一言九鼎

tinbg 发表于 2024-7-12 19:13
大哥，你这个头像很爱啊，像ai又想vam，有没有出处

一眼ai
' }4 u* `- U. A: o% R